Каждый фрагмент контента, созданного моделями Google Gemini с помощью ИИ, имеет скрытую метку SynthID, что делает его очень трудным для выдачи за подлинный. SynthID также получил одобрение от других крупных игроков в сфере ИИ, но фактическая проверка этих невидимых водяных знаков была сложным процессом. Однако в будущем это станет немного проще. Google объявил, что его детектор SynthID теперь поддерживает водяные знаки от всех партнеров и доступен для использования на новом специализированном веб-сайте.
SynthID — это невидимый сигнал, закодированный в пикселях изображений и видео, сгенерированных ИИ, и в звуковой волне аудио, созданного ИИ. Google заявляет, что только Gemini интегрировал SynthID с более чем 180 миллиардами изображений и видео, а также 240 000 годами аудио. До сих пор единственным способом для тех, кто не входит в программу доверенных тестировщиков Google, проверить SynthID было обращение к Gemini. Это довольно неуклюже, и вывод модели иногда мог быть запутанным, когда вам нужен был простой ответ «да» или «нет».
Теперь вы можете исключить Gemini из процесса. Начиная с сегодняшнего дня, вы можете перейти на новый веб-сайт SynthID.com, чтобы проверить контент на наличие водяного знака ИИ. Основным ограничением предыдущего детектора Google было то, что он проверял только версию SynthID от Google. Даже если изображения ChatGPT, например, имели SynthID, они не были бы помечены детектором Google. Теперь это больше не проблема.
Google заявляет, что расширенная версия детектора будет поддерживать уникальные водяные знаки от всех партнеров SynthID, включая OpenAI, Nvidia, Kakao и (скоро) Apple. Таким образом, вы сможете зайти туда и проверить файл на участие всех этих систем ИИ, вместо того чтобы обращаться к их детекторам по отдельности. Веб-сайт не предоставит столько информации, сколько внутренний инструмент, который выделял области изображения, показывающие пиксели SynthID. Вместо этого вы просто получите сообщение, указывающее, использовался ли SynthID для создания или редактирования медиафайла.
,
Для использования инструмента требуется вход в систему, но он поддерживает учетные записи Google, OpenAI и Apple. Хотя детектор доступен любому, требование входа в систему ограничивает его использование. Google заявляет, что каждый пользователь получает «ежедневную квоту использования примерно на 10 проверок изображений, видео и аудио».
Предыдущие инструменты обнаружения имели аналогичное ограничение. Инженеры Google сообщили Ars, что ограничение доступа необходимо для предотвращения использования проверок для разработки инструментов удаления SynthID. Неопределенность относительно точного числа, вероятно, связана с тем, что система может заблокировать вас раньше, если вы проверяете несколько очень похожих изображений. Это может указывать на то, что кто-то пытается настроить обходной рабочий процесс.
Маркировка лжи
Расширение доступа к обнаружению SynthID — это хорошо: это удобное единое место для проверки медиафайлов на наличие подписи популярных инструментов ИИ. Однако партнеры Google — далеко не единственные источники контента ИИ.
Некоторые поставщики моделей используют различные технологии водяных знаков (например, *Meta), в то время как другие вообще не используют водяные знаки. А еще есть модели с открытым весом, которые люди могут запускать на своем собственном оборудовании для создания все более реалистичного контента ИИ, который даже не включает простую маркировку метаданных.
Это означает, что существует множество контента ИИ, который не будет идентифицирован как ИИ в инструменте SynthID. На веб-сайте будет соответствующее уведомление. Также вполне вероятно, что, несмотря на усилия Google, кто-то найдет способ удалить SynthID, что сделает существующий контент ИИ более легитимным. Это не идеальная система, но такова реальность опоры на проактивное наложение водяных знаков на изображения ИИ, которые стремительно распространяются по Интернету.
Лучшим подходом может быть противоположный — использование криптографических технологий, таких как C2PA, для маркировки реальных изображений, видео и аудио по мере их создания. Телефоны Google Pixel — одни из немногих устройств, которые делают именно это. А пока SynthID — ваш лучший шанс идентифицировать подделки ИИ.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
