В Google Gemini появилась новая функция: она позволяет пользователям создавать AI slop без видимых водяных знаков, по которым можно опознать ИИ.
Официальный Twitter-аккаунт LLM объявил в пятницу (пятничный сброс новостей, народ!), что пользователи скоро получат возможность «самостоятельно решать, будут ли видимые водяные знаки на изображениях, видео и музыке, созданных с помощью Gemini». Теперь это переключатель.
Несколько месяцев назад, по данным Android Authority, вице-президент Google Джош Вудворд опросил пользователей Gemini о самых востребованных функциях и выяснил, что удаление видимых водяных знаков с изображений, созданных Nano Banana от Google — моделью генерации изображений Gemini, входит в топ-10. Нет ничего удивительного в том, что для многих энтузиастов генерации изображений с помощью ИИ главным приоритетом является удаление видимых доказательств использования ИИ.
Так какие же меры защиты от злоупотреблений генеративным ИИ остаются в Gemini? Google ссылается на две технологии: метаданные C2PA (content credential) и SynthID — невидимый водяной знак, который встраивается в изображения, видео и аудио.
Удаление видимого водяного знака с изображения не требует особых усилий. Достаточно его обрезать или замаскировать. C2PA, поскольку это метаданные, удаляется так же тривиально. Более того, большинство социальных сетей в любом случае удаляют часть или все метаданные из загружаемого контента, а значит, тому, кто хочет распространять дезинформацию, даже не обязательно предпринимать дополнительные шаги.
SynthID более устойчив. Он встраивается в пиксели изображения и спроектирован так, чтобы обнаруживаться даже после того, как картинку обрезали, изменили размер и снизили качество до состояния вложения AOL Mail из 1990-х. Ars Technica протестировала его и выяснила: хотя с каждой итерацией SynthID становится менее различимым, к тому моменту изображение становится «безнадежно размытым».
Тем не менее Ars отметила, что SynthID, по собственному признанию Google, не рассчитан на противостояние состязательным атакам. По крайней мере два коммерческих сервиса, Rephrasy и SynthID Bypass, уже заявляют, что обходят эту технологию. Существуют также инструменты с открытым исходным кодом и руководства. Один автор поста на Medium признался, что ему потребовались «недели, 123 000 пар изображений, 200 обычных изображений Gemini и очень специфическое понимание кодирования с расширенным спектром», чтобы просто вносить изменения в изображения, которые иногда обманывали декодеры, не позволяя им достичь порога уверенности.
Как ни крути, это решение — еще одна маленькая веха на пути к полному разрушению способности каждого человека распознавать изображения, созданные ИИ, с первого взгляда. Это, вероятно, хорошо для тех, кто зарабатывает на AI slop, и плохо для всех остальных.
Вудворд написал в Twitter в пятницу, что функция удаления водяных знаков скоро будет внедрена «за исключением стран, где по закону их требуется сохранять». Ага.
Google не сразу ответил на запрос о комментарии по этой статье, но мы обновим материал, если получим ответ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tom McKay
