Всего за несколько коротких лет мы прошли путь от легкого распознавания контента, созданного ИИ, с нелепыми лишними пальцами, до изображений и видео, выглядящих шокирующе реалистично. Как нам узнать, что реально в эпоху ИИ? Ответ Google — SynthID, который компания впервые продемонстрировала три года назад. Компания заявляет, что с тех пор SynthID использовался для маркировки 100 миллиардов изображений и видео, а также 60 000 лет аудиоматериалов. Эти цифры будут только расти, поскольку SynthID выходит за пределы Google.
SynthID — не единственная стратегия Google по маркировке контента ИИ. Компания также привержена стандарту C2PA, который помечает контент метаданными, описывающими, как он был создан. Google начала более активно использовать C2PA со своими смартфонами Pixel 10. Фотографии, сделанные на Pixel 10, включают метаданные, описывающие их обработку. Если сильно увеличенное изображение содержит генеративные элементы, оно также получает метку ИИ.
Google теперь заявляет, что та же функция появится в видео, записанных на телефонах Pixel 8, 9 и 10, в обновлении в ближайшие недели. Компания также добавляет сканирование C2PA в Gemini, что позволит чат-боту объяснять происхождение файла на основе маркировки контента. Эта же возможность появится в Chrome и Поиске через несколько месяцев.
Однако эти метаданные являются взаимозаменяемыми (fungible). С другой стороны, SynthID глубоко интегрирован с контентом, сгенерированным ИИ. Цифровой водяной знак присутствует в пикселях изображений и видео, а также в волновой форме ИИ-песен и аудиообзоров из таких продуктов, как NotebookLM. По словам ученого Google DeepMind Пушмита Коли, команда усердно работала над тем, чтобы SynthID было гораздо труднее удалить, даже если его сжимать, обрезать или поворачивать.
«Технологию такого рода всегда будут атаковать», — сказал Коли. «Мы провели много исследований, чтобы сделать SynthID устойчивым к различным видам преобразований».
,
В прошлом году Google добавила поддержку обнаружения SynthID в приложении Gemini. Вы можете загрузить подозрительный контент и спросить у чат-бота, сгенерирован ли он ИИ. Это должно надежно работать со всеми этими миллиардами изображений и аудиоклипов Google за последние три года. Несколько амбициозных энтузиастов заявляли об обнаружении методов удаления скрытых паттернов SynthID. Google утверждает, что ни один из этих обходов на самом деле не работает.
Больше SynthID в большем количестве мест
Даже если никто не смог взломать SynthID, это не имеет значения для подавляющего большинства изображений ИИ в Интернете — SynthID применяют только модели ИИ от Google. Однако скоро это изменится.
Google объявила о партнерстве с несколькими компаниями для внедрения SynthID в их системы. Nvidia внедрит SynthID в свои базовые модели Cosmos, а OpenAI будет использовать SynthID в своих изображениях GPT 2. Kakao и ElevenLabs также начнут добавлять SynthID в свой контент ИИ.
Это не означает, что вы всегда сможете определить, создан ли контент ИИ, ища SynthID. Множество общедоступных моделей продолжают создавать контент без водяных знаков ИИ, и существуют открытые модели, которые может обучить любой, кто хочет создавать изображения и видео ИИ на своих условиях. Тем не менее, это шаг в правильном направлении.
Появятся и новые способы проверки статуса SynthID, так что вам даже не придется открывать Gemini, чтобы проверить наличие водяного знака. SynthID будет интегрирован с Circle to Search, Lens и AI Mode. Вы также сможете использовать Gemini в Chrome, поделившись вкладкой с контентом, о котором идет речь. Вы сможете задать любой вариант вопроса «Это ИИ?» и получить скан SynthID с помощью этих инструментов.
В настоящее время публичного API для SynthID нет — слишком легкий доступ к этим сканированиям может стать вектором атаки для тех, кто стремится обойти SynthID. Однако Google готовится запустить API для обнаружения контента ИИ в рамках своей платформы Gemini Enterprise Agent Platform. Это позволит доверенным деловым партнерам легче помечать контент ИИ, что позволит Google дорабатывать API в ближайшие месяцы.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ryan Whitwam
