OpenAI заявила, что заблокировала две группы аккаунтов ChatGPT, которые, по ее мнению, действовали из Китая и использовали ее модели для тайных кампаний влияния, нацеленных на дебаты в сфере технологий и политики США. Одна из таких кампаний, получившая название «Data Center Bandwagon», создавала посты в социальных сетях и комиксы, обвиняя центры обработки данных ИИ в росте счетов за электроэнергию для домохозяйств. Операторы аккаунтов вводили запросы в ChatGPT на упрощенном китайском языке через VPN и выдавали себя в X (бывший Twitter) за американцев с разным опытом. Однако полный отчет OpenAI об угрозах показал, что эта активность практически не вызвала подлинного вовлечения. Вторая группа, «Tech and Tariffs», создавала антитарифные карикатуры по инструкциям изображать президента Трампа, но никогда — китайского лидера Си Цзиньпина, и была связана с сетью фейковых аккаунтов в X, распространявших ложные утверждения о краже пользовательских данных ChatGPT.
OpenAI оценила, что операторы «Data Center Bandwagon», вероятно, представляли собой команду по социальным сетям в частной китайской технологической компании, работающей на клиентов провинциального уровня. Среди прочего, они запрашивали у ChatGPT комиксы о ценах на аукционах мощности сетевого оператора, основываясь на репортажах региональной газеты, а затем публиковали результат в X под такими хештегами, как #capacityauction, наряду со ссылками на легитимные новостные материалы.
Хотя ни один сетевой оператор не был назван, ценообразование на аукционах мощности связано с реальным, хорошо задокументированным спором: независимый монитор рынка PJM Interconnection обвинил центры обработки данных в «необратимом» росте цен на электроэнергию на 75,5% в самом крупном регионе энергосистемы США, при этом оптовые цены вблизи некоторых кластеров центров обработки данных выросли на целых 267% за пять лет. Три сенатора США потребовали объяснений от Amazon, Google и Meta* по поводу расходов, переложенных на бытовых потребителей.
«Это не был случай операции влияния, создающей дебаты», — заявил Бен Ниммо, главный исследователь OpenAI. OpenAI оценила эту активность как Категорию Один по Шкале Прорыва (Breakout Scale), что означает, что она оставалась на одной платформе без свидетельств достижения реальной аудитории.
Группа «Tech and Tariffs» высмеивала американо-китайскую конкуренцию в области тарифов, редкоземельных металлов, ИИ, 5G и промышленной устойчивости, а также генерировала пакетные комментарии на английском, итальянском, японском и традиционном китайском языках, причем последние были нацелены на аудиторию на Тайване. Один из операторов описал аккаунты как «водную армию» (water army) — китайский термин для скоординированных сетей троллей — и попросил ChatGPT разработать систему для сбора и анализа постов в социальных сетях от лиц, помеченных как рискованные. OpenAI сообщила, что ее модель выдала общие советы по хранению данных и отказалась помогать со сбором. Фейковые аккаунты в той же сети X неоднократно публиковали сфабрикованные утверждения о компрометации пользовательских данных ChatGPT, что, по оценке OpenAI, является попыткой нанести ущерб ее собственной репутации.
В своем полном отчете об угрозах OpenAI сравнила эти кампании с операцией Spamouflage 2022 года, которую исследователи из ASPI и Mandiant обнаружили, нацеленной на Lynas Rare Earths, Appia и USA Rare Earth после того, как 14-й пятилетний план Пекина сделал приоритетом редкоземельные металлы. Новая активность последовала за принятием рекомендаций 15-го пятилетнего плана, который возвел ИИ в ранг стратегической отрасли для Китая.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Luke James
