Подставной израильский аналитический центр приписал исследование миграционной политики австралийскому профессору пищевых технологий, составил «индекс суверенитета», поставив Россию выше стран, критикующих её войну, и заполнил свой сайт академическими статьями, украденными у настоящих авторов. OpenAI заблокировала кластер аккаунтов ChatGPT, стоявших за этим, 25 августа, проследив операцию до России, где операторы использовали VPN для доступа к заблокированным в стране моделям и составляли посты на английском, продвигавшие ресурс в Substack, Telegram, X, *Facebook и LinkedIn. Из 36 статей, которые OpenAI взяла для анализа из International Burke Institute (так назывался ресурс), 34 были скопированы у настоящих учёных, некоторые ошибочно приписаны таким фигурам, как Фрэнсис Фукуяма и Ноам Хомский.
OpenAI утверждает, что операторы использовали ChatGPT для написания постов и ответов, направлявших аудиторию на сайт IBI, зарегистрированный в феврале прошлого года, тогда как статьи, страновые отчёты и сам индекс не были созданы с помощью моделей OpenAI.
Вместо того чтобы использовать ChatGPT для написания статей, операторы применяли чат-бота для удаления любых формулировок, которые могли бы выдать в них русскоговорящих, однако не-ИИ материалы содержали очевидные признаки. Одна статья IBI называла немецкую «светофорную» коалицию «коалицией Svetofor» — буквальной передачей русского слова «светофор», которую не использовал бы ни один англо- или немецкоязычный автор. Профиль, который OpenAI связала с операцией, описывал ориентированный на США Telegram-канал как предлагающий «совершенно неизбитую точку зрения».
Это шестой публичный отчёт OpenAI об угрозах с тех пор, как компания начала публиковать разоблачения в начале 2024 года. С тех пор, по словам её отдела разведки и расследований, было пресечено более 40 вредоносных сетей. Во всех них повторяются схожие выводы: операторы встраивают ИИ в существующие рабочие процессы для повышения эффективности и распространения, а не для генерации контента.
OpenAI отнесла эту кампанию к нижней части третьей категории по шкале Brookings Breakout Scale — шестиуровневой модели, измеряющей реальное влияние и распространение дезинформационных кампаний, — при этом отдельные посты набирали мало просмотров, а Telegram-каналы операции насчитывали от 10 000 до 20 000 подписчиков каждый.
Аналогичные меры OpenAI применила к связанным с Китаем кластерам в июне, когда заблокировала аккаунты, стоявшие за кампанией «Data Center Bandwagon», которая раздувала недовольство потреблением электроэнергии дата-центрами в США. Блокировка затронула операторов, которые уже получали доступ к моделям OpenAI через VPN (поскольку Россия заблокирована в сервисах компании), за кампанию, которая едва кого-то достигла.
«Однако значение операции заключается не столько в охваченной аудитории, сколько в созданной инфраструктуре», — заявили в OpenAI. Собственные разоблачения Anthropic относительно возможностей ИИ привлекли внимание в апреле, когда её утверждение о том, что Claude Mythos обнаружил тысячи критических zero-day уязвимостей, оказалось основанным на 198 ручных проверках.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Luke James
