Компания Anthropic обвинила китайскую фирму Alibaba в организации крупнейшей на сегодняшний день атаки с целью клонирования Claude, поскольку Китай стремится сравняться по возможностям с ведущей моделью Anthropic после выпуска Mythos и последующего ограничения доступа к ней на зарубежных рынках.
Ars получила письмо от 10 июня, направленное сенаторам Тиму Скотту (республиканец от Южной Каролины) и Элизабет Уоррен (демократ от Массачусетса) за день до слушаний в комитете Сената по теме «ИИ и американская мечта». В письме Anthropic сообщила о «новых конфиденциальных доказательствах самой масштабной кампании по незаконному извлечению возможностей Claude, которую мы когда-либо фиксировали».
Атаки происходили с 22 апреля по 5 июня, когда «операторы, аффилированные с Alibaba и Alibaba Qwen, AI-лабораторией Alibaba», предположительно сгенерировали «более 28,8 миллиона взаимодействий с Claude через почти 25 000 мошеннических аккаунтов», — заявила Anthropic. Нарушая условия обслуживания и ограничения доступа к Claude, эта кампания «была нацелена на некоторые из наиболее ценных возможностей Claude, такие как агентное рассуждение, разработка программного обеспечения и задачи с долгосрочным горизонтом».
По данным Anthropic, Alibaba уклонялась от обнаружения, «используя методы обфускации и прокси-сети». Поскольку спрос в Китае на надежные методы обфускации растет, Anthropic предупредила о появлении «растущей экономики обхода» для подпитки все более обширной сети будущих атак дистилляции.
Alibaba предположительно проигнорировала предупреждение Трампа
Как и другие китайские лаборатории, пытающиеся скопировать передовые американские модели, целью Alibaba, как утверждала Anthropic, было извлечение возможностей Claude «без затрат на обучение и НИОКР, необходимых для обучения» собственной передовой модели. Эти атаки стали «широко распространенными» и «превращают сотни миллиардов долларов американских инвестиций и НИОКР в огромную субсидию для наших геополитических конкурентов», — заявила Anthropic.
Важно отметить, что Anthropic сообщила, что кампания Alibaba началась после того, как Дональд Трамп предпринял шаги по пресечению таких незаконных атак дистилляции и защите национальной безопасности США. В апреле Трамп обвинил Китай в «промышленном» воровстве ИИ после того, как Anthropic обвинила китайские фирмы DeepSeek, Moonshot и MiniMax в использовании той же тактики, которую якобы использовала Alibaba для генерации «более 16 миллионов взаимодействий с Claude через примерно 24 000 мошеннических аккаунтов». OpenAI и Google опубликовали данные о схожих атаках на свои модели, добавила Anthropic.
,
Anthropic обвинила Alibaba в «дерзкой» гонке по созданию клона Claude, которая, по-видимому, не была затронута угрозами Трампа принять меры против иностранных попыток скопировать передовые американские модели, несмотря на зависимость от американских инвесторов.
«Alibaba котируется на Нью-Йоркской фондовой бирже, ведет бизнес в Соединенных Штатах и несет ответственность перед американскими инвесторами и регуляторами», — отмечается в письме Anthropic, — «однако эта деятельность развернулась через несколько недель после того, как» меморандум Трампа предупредил, что попытки клонирования «неприемлемы».
Ars не смогла немедленно связаться с Alibaba для получения комментариев.
Anthropic хочет, чтобы такие компании, как Alibaba, были наказаны
Однако Alibaba уже готовится к столкновению с Трампом. Во вторник в иске Alibaba обвинила администрацию Трампа в внесении компании в черный список после ложной связи с китайскими военными, как сообщило Reuters.
«Alibaba управляется независимым советом директоров, ни один из членов которого не имеет военного отношения», — заявила Alibaba. «Ее продукты и услуги созданы для розничной торговли, логистики и корпоративных информационных технологий, а не для оружия, обороны или разведки».
Однако Anthropic, похоже, не убеждена, что Alibaba не сотрудничает с правительством Китая. В письме Anthropic предупредила, что без более решительных мер эти атаки дистилляции «помогут Китаю быстрее достичь возможностей уровня Mythos Preview».
Чтобы США сохранили лидерство, Anthropic рекомендовала Конгрессу принять законодательство с тремя целями. Во-первых, необходимо обновить антимонопольное законодательство, чтобы разрешить фирмам в сфере ИИ обмениваться информацией об эволюционирующих китайских тактиках для сдерживания новых угроз.
Во-вторых, США нуждаются в большем количестве экспортного контроля в отношении чипов, чтобы ограничить доступ Китая к передовым вычислительным мощностям, чтобы они просто не могли обучать модели на выходных данных американских моделей. Это могло бы сделать проведение атак дистилляции бессмысленным, предположила Anthropic.
Наконец, Конгресс должен принять законы, наказывающие китайские лаборатории за «неподобающее поведение», чтобы полагаться на атаки дистилляции для развития китайских моделей стало «более сложным и дорогостоящим». Меры наказания могут включать ограничение доступа китайских фирм к американским моделям или передовым американским чипам, либо запрет на использование центров обработки данных за пределами Китая, предположила Anthropic.
,
Anthropic отказалась уточнить, были ли предполагаемые атаки Alibaba достаточно значительными, чтобы существенно ускорить развитие ИИ-возможностей Китая, или комментировать какие-либо конкретные шаги, предпринятые для пресечения атак. Вместо этого представитель компании предоставил Ars заявление, повторяющее мнения, выраженные в письме сенаторам.
«Мы считаем, что борьба с угрозой незаконной дистилляции требует скоординированных действий правительства и промышленности, и мы продолжим работать с Конгрессом и Администрацией для сохранения лидерства США в области ИИ», — заявила Anthropic.
Китай стремится сравняться с возможностями Mythos
Письмо Anthropic позиционирует фирму в сфере ИИ как стремящуюся помочь США удержать линию, чтобы Китай не смог превзойти возможности США.
Если это произойдет, Anthropic предупредила, что Китай может застать незащищенные США врасплох — внезапно получив «передовые кибервозможности для развертывания против правительства США и американских компаний и эксплуатации уязвимостей быстрее, чем это было возможно ранее».
Важно сохранять максимально возможное преимущество США, говорилось в письме Anthropic, потому что «чем больше разрыв в возможностях», тем «больше времени будет у правительства США для укрепления киберзащиты и внедрения систем ИИ в доменах национальной безопасности» по мере развития ИИ в Китае.
Кроме того, Anthropic предупредила, что если США будут игнорировать атаки дистилляции, Китай может выпустить передовые модели ИИ «со слабыми мерами защиты, которые легко взломать, что позволит другим противникам США использовать эти модели для широкого спектра действий, противоречащих интересам США».
Модели Alibaba были загружены более 700 миллионов раз и находятся на переднем крае китайской индустрии ИИ. Официальная газета ЦК Коммунистической партии Китая (КПК) People’s Daily недавно расхваливала семейство моделей ИИ Qwen от Alibaba как «самую популярную в мире систему ИИ с открытым исходным кодом». AI-фирма, вероятно, сохранит оборонительную позицию по мере усиления пристального внимания со стороны США, но компания рискует подорвать свой бизнес, чем дольше продлятся ее судебные тяжбы в США. Акции Alibaba упали на 3 процента после того, как обвинения Anthropic стали достоянием общественности, сообщил Yahoo Finance.
,
Подозрения Anthropic в том, что Китай гонится за созданием моделей, способных соответствовать возможностям Claude, были подтверждены по крайней мере одним крупным китайским технологическим основателем. На конференции по кибербезопасности в Пекине вчера основатель 360 Security Technology Чжоу Хунъи сравнил Mythos от Anthropic с «киберядерным оружием», сообщила South China Morning Post.
Чжоу заявил аудитории, что внезапный гигантский скачок в способности Mythos находить уязвимости в сфере кибербезопасности был «ужасающим изменением», которое фактически «демократизировало» кибератаки, сообщила SCMP.
Для Китая отсутствие доступа к Mythos было значительным недостатком, сказал Чжоу. Он посетовал на то, что Project Glasswing, который предоставил более чем 40 американским организациям доступ к Mythos Preview для укрепления киберзащиты, исключил Китай.
«Это означает, что американские организации могут использовать Mythos для сканирования ваших уязвимостей, но у вас даже нет квалификации, чтобы взглянуть на Mythos», — сказал Чжоу.
Единственный путь вперед для Китая — создать собственную модель, подобную Mythos, сказал Чжоу, предупредив, что такое «меняющее правила игры оружие в кибервойне» не может «находиться исключительно в руках других». По словам Чжоу, Китай должен стремиться скопировать возможности Mythos, чтобы обеспечить взаимное гарантированное уничтожение, если его соперник попытается извлечь выгоду, используя свой передовой ИИ.
SCMP отметила, что «замечания Чжоу стали первым случаем, когда видный китайский технологический основатель публично предупредил о стратегических рисках, связанных с передовой моделью ИИ США».
На данный момент, по словам Чжоу, китайские фирмы «далеко не достигли уровня возможностей Mythos», сообщила SCMP. Затем он представил свою компанию как разработчика решения, которое фокусируется «на системах ИИ-агентов, сочетающих существующие базовые модели со специализированными наборами данных по безопасности и базами знаний об уязвимостях», вместо того, чтобы «пытаться сравняться с США по возможностям передовых моделей и вычислительной мощности».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
