Пока что единственные подробности о новой функции содержатся в загадочном посте Илона Маска в X, где он просто написал: «Предупреждение об отредактированных визуальных материалах», репостя анонс новой функции X от анонимного аккаунта X под названием DogeDesigner. Этот аккаунт часто используется в качестве прокси для представления новых функций X, поскольку Маск делает репосты с него для распространения новостей.
Тем не менее, детали о новой системе остаются скудными. В посте DogeDesigner утверждалось, что новая функция X может «затруднить распространение вводящих в заблуждение клипов или изображений для устоявшихся медиагрупп». Также утверждалось, что эта функция является новинкой для X.
До того, как компания была приобретена и переименована в X, Twitter маркировал твиты с использованием манипулятивных, обманчиво измененных или сфабрикованных медиа в качестве альтернативы их удалению. В 2020 году руководитель отдела целостности сайта Йоэль Рот заявлял, что политика компании не ограничивалась искусственным интеллектом, но включала такие вещи, как «выборочное редактирование или обрезка, замедление или наложение звука, или манипуляции с субтитрами».
Неясно, принимает ли X те же правила или внесла ли какие-либо существенные изменения для борьбы с ИИ. В текущей документации службы поддержки говорится о политике, запрещающей распространение неаутентичных медиа, но она редко применяется, о чем свидетельствует недавний скандал с дипфейками, когда пользователи распространяли изображения интимного характера без согласия. Кроме того, теперь даже Белый дом делится манипулятивными изображениями.
Назвать что-либо «манипулятивным медиа» или «изображением, созданным ИИ» может быть неоднозначно.
Учитывая, что X является площадкой для политической пропаганды, как внутренней, так и внешней, необходимо задокументировать понимание того, как компания определяет, что является «отредактированным», или, возможно, созданным или манипулированным с помощью ИИ. Кроме того, пользователи должны знать, существует ли какой-либо процесс оспаривания помимо краудсорсинговых Community Notes в X.
Как обнаружила компания *Meta, когда в 2024 году она внедрила маркировку изображений, созданных ИИ, системам обнаружения легко дать сбой. В их случае Meta была уличена в ошибочной маркировке реальных фотографий меткой «Создано с помощью ИИ», хотя они не были созданы с использованием генеративного ИИ.
Это произошло потому, что функции ИИ все чаще интегрируются в креативные инструменты, используемые фотографами и графическими дизайнерами. (Новый пакет Apple Creator Studio, запуск которого состоялся сегодня, является одним из недавних примеров.)
В итоге инструмент обрезки Adobe приводил к сглаживанию изображений перед сохранением их в формате JPEG, что активировало детектор ИИ от *Meta. В другом примере функция Generative AI Fill от Adobe, используемая для удаления объектов — таких как складки на рубашке или нежелательное отражение, — также приводила к тому, что изображения маркировались как «Создано с помощью ИИ», хотя они были лишь отредактированы с помощью инструментов ИИ.
В конечном итоге Meta обновила свою метку до «AI info» (Информация об ИИ), чтобы не маркировать изображения как «Создано с помощью ИИ», если это было не так.
На сегодняшний день существует орган по установлению стандартов для проверки подлинности и происхождения контента для цифровых материалов, известный как C2PA (Коалиция за происхождение и аутентичность контента). Существуют также связанные инициативы, такие как CAI, или Инициатива по аутентичности контента, и Project Origin, сосредоточенные на добавлении метаданных о происхождении с защитой от несанкционированного изменения к медиаконтенту.
Предположительно, реализация X будет соответствовать какому-то известному процессу идентификации контента, созданного ИИ, но владелец X, Илон Маск, не сообщил, какому именно. Он также не уточнил, говорит ли он конкретно об изображениях, созданных ИИ, или о чем-либо ином, кроме фотографий, загружаемых в X непосредственно с камеры смартфона. Неясно даже, является ли функция совершенно новой, как утверждает DogeDesigner.
X не единственная платформа, столкнувшаяся с проблемой манипулятивных медиа. Помимо *Meta, TikTok также начал маркировать контент, созданный ИИ. Стриминговые сервисы, такие как Deezer и Spotify, также масштабируют инициативы по выявлению и маркировке музыки, созданной ИИ. Google Photos использует C2PA для указания того, как были созданы фотографии на его платформе. Microsoft, BBC, Adobe, Arm, Intel, Sony, OpenAI и другие входят в руководящий комитет C2PA, в то время как многие другие компании присоединились в качестве членов.
X в настоящее время не указан среди членов, хотя мы обратились в C2PA, чтобы узнать, не изменилось ли это недавно. X обычно не отвечает на запросы о комментариях, но мы все равно спросили.
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez
