В последние месяцы распознавание реальных фотографий по изображениям, созданным искусственным интеллектом, стало всё сложнее. Генераторы ИИ совершенствуются такими темпами, что даже более опытные пользователи часто испытывают трудности с определением того, смотрят ли они на реальное изображение или на результат работы одной из генеративных моделей. Поэтому Google решил предоставить широкой публике инструмент, который может значительно помочь в обнаружении похожего контента. Он называется SynthID Detector, и его главное преимущество заключается в том, что он может распознавать не только контент, созданный искусственным интеллектом Google, но и контент, созданный некоторыми конкурирующими инструментами. А что это даст пользователям? AppОсобенно интересно то, что калифорнийский гигант вскоре должен оказаться в числе компаний, получивших поддержку.
Вас может заинтересовать
Просто загрузите фотографию, видео или аудио.
Принцип работы детектора SynthID довольно прост. Пользователь заходит на сайт. SynthID.comПользователь входит в систему и загружает изображение, видео или аудиофайл, чтобы проверить, был ли он создан с использованием искусственного интеллекта. Затем инструмент проверяет наличие специального цифрового водяного знака, который внедряется в контент при его создании. В отличие от классических водяных знаков, он невидим для человеческого глаза, поэтому никак не искажает полученное фото или видео. Pro Однако система верификации узнаваема.
Технология SynthID была представлена Google ещё в 2023 году, а сам детектор стал доступен избранным журналистам и другим специалистам в прошлом году. Но теперь он открывается для всех пользователей по всему миру, хотя пока только на английском языке. Помимо контента, созданного с помощью инструментов Google, он также может распознавать соответствующие водяные знаки в медиафайлах, созданных Google. OpenAINvidia или Kakao. Кроме того, в ближайшем будущем ожидается поддержка контента, созданного с помощью инструментов искусственного интеллекта. Appлу.
Но это не идеальный детектор искусственного интеллекта.
Хотя на первый взгляд новая функция выглядит очень интересно, у неё есть и довольно существенное ограничение. SynthID Detector не может автоматически распознавать изображения, созданные искусственным интеллектом. Он работает только в том случае, если файл содержит совместимый цифровой водяной знак. Поэтому, если кто-то создаст поддельное фото с помощью инструмента, не поддерживающего технологию SynthID, детектор может его не обнаружить. Следовательно, отрицательный результат определенно не означает, что изображение подлинное.
Ещё одним ограничением является то, что инструмент не может определить, был ли контент полностью создан с помощью ИИ или только отредактирован с его использованием. Например, если кто-то делает реальную фотографию, а затем изменяет на ней определённые детали с помощью инструмента, поддерживающего ИИ, детектор также может предупредить об использовании ИИ. Поэтому результат необходимо интерпретировать корректно. Google также требует авторизации и, согласно информации с сервера Ars Technica, ожидает примерно десять проверок на пользователя в день.
Однако цифры, опубликованные Google во время объявления, интересны. По их словам, с момента запуска SynthID система незаметно добавила водяные знаки более чем на 180 миллиардов изображений и видео, а также на аудиозаписи, охватывающие 240 000 лет. Проверка контента теперь также доступна через поиск Google. Gemini или Chrome, где ежедневно выполняется более миллиона проверок.
Вас может заинтересовать
На мой взгляд, это шаг в правильном направлении. Интернет буквально переполнен контентом, созданным с помощью ИИ, и возможность легко проверить происхождение подозрительной фотографии или видео может быть полезна практически любому. Однако важно помнить, что SynthID Detector — это не универсальный детектор истины, а лишь инструмент для распознавания определенного типа цифровой подписи. Тем не менее, он может стать очень полезным помощником, особенно если другие крупные технологические компании постепенно присоединятся к его поддержке.
