Новый инструмент Meta* для обнаружения ИИ-изображений работает не совсем так, как заявлено, согласно новому отчету.
Ранее на этой неделе Meta* представила свою первую модель генерации изображений Muse Image. В рамках анонса технологический гигант также объявил, что все изображения, созданные моделью, будут содержать невидимую систему водяных знаков под названием Content Seal. Компания утверждала, что этот сигнал останется нетронутым, даже если ИИ-сгенерированное изображение будет «обрезано, сжато, изменено в размере или сохранено как скриншот» пользователями. Чтобы помочь с обнаружением сигнала Content Seal, Meta* также объявила, что предварительно представляет инструмент обнаружения ИИ для проверки того, было ли изображение создано Muse Image.
Однако в отчете, опубликованном в пятницу, журналисты Reuters обнаружили, что инструмент обнаружения ИИ не смог идентифицировать более половины сгенерированных им изображений после их кадрирования. В первом тесте Reuters выяснил, что инструмент правильно определил все 40 изображений, созданных Muse Image, как ИИ-сгенерированные, но после того, как эти изображения были обрезаны до половины или трети исходного размера, инструмент смог идентифицировать как ИИ-сгенерированные только 55%.
По мере того как инструменты генеративного ИИ становятся все лучше в создании жутких дипфейков, их обнаружение становится все более сложной задачей. Согласно данным компании по кибербезопасности DeepStrike, объем ИИ-сгенерированных дипфейков в интернете вырос примерно на 900% в годовом исчислении с 2023 по 2025 год. Однако возможности обнаружения не развивались полностью параллельно этому буму популярности. Коммерческие инструменты обнаружения ИИ, сами управляемые ИИ, все еще страдают от ошибок, в то время как способность среднего человека идентифицировать ИИ-сгенерированный контент не лучше подбрасывания монеты, согласно предыдущим исследованиям.
Хотя это не является немедленным успехом, именно этот пробел Meta* намерена устранить с помощью нового Content Seal и своего инструмента обнаружения.
Muse Image и сопутствующие продукты должны были стать важным шагом вперед для Meta*, которая, возможно, отставала от своих конкурентов в области ИИ. В прошлом году генеральный директор Meta* Марк Цукерберг решил, что лучшее время для попытки догнать — это настоящее, и объявил о крупном повороте в области ИИ. План по наверстыванию включал многомиллиардные инвестиции в исследования и разработки, а также переманивание лучших талантов у конкурентов по всей отрасли — все это в стремлении создать лучшие ИИ-продукты и достичь амбициозной цели создания искусственного сверхинтеллекта.
Еще пара миллиардов, выделенных на ИИ, и еще несколько реструктуризаций спустя, Meta* представила первый крупный плод этой работы в апреле — Muse Spark, собственную модель, которую компания заявила, что планирует сделать открытым исходным кодом в будущем, и которая была встречена неоднозначно. Еще одним крупным событием стал дебют Muse Image на этой неделе.
Однако дебют генератора изображений и сопутствующих инструментов был омрачен спорами, и не только из-за отчета Reuters. Пользователи Instagram* были встревожены, когда узнали, что ИИ-модель может использовать фотографии из любого публичного профиля без явного запроса согласия владельца этого профиля. Эта функция теперь удалена.
Теперь компания готовится к следующему крупному дебюту в области генеративного ИИ: видеогенератору под названием Muse Video. Будем надеяться, что компания сможет устранить любые пробелы в инструментах обнаружения и адекватно решить проблемы конфиденциальности пользователей до выхода этой модели.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
