Лаборатории — DeepSeek, Moonshot AI и MiniMax — предположительно сгенерировали более 16 миллионов сессий взаимодействия с Claude через эти аккаунты, используя технику, называемую «дистилляция». Anthropic заявила, что лаборатории «нацеливались на наиболее отличительные возможности Claude: агентное рассуждение, использование инструментов и кодирование».
Обвинения прозвучали на фоне дебатов о том, насколько строго следует применять экспортный контроль в отношении передовых ИИ-чипов — политики, направленной на сдерживание развития ИИ в Китае.
Дистилляция — это распространенный метод обучения, который ИИ-лаборатории используют для создания меньших и более дешевых версий своих собственных моделей, однако конкуренты могут использовать его для фактического копирования чужих наработок. OpenAI ранее в этом месяце направила членам Палаты представителей служебную записку, обвинив DeepSeek в использовании дистилляции для имитации своих продуктов.
DeepSeek впервые произвела фурор год назад, выпустив свою модель для рассуждений R1 с открытым исходным кодом, которая почти не уступала по производительности американским передовым лабораториям при значительно меньшей стоимости. Ожидается, что DeepSeek скоро выпустит DeepSeek V4, свою новейшую модель, которая, по сообщениям, сможет превзойти Claude от Anthropic и ChatGPT от OpenAI в задачах кодирования.
Масштаб каждой атаки различался. Anthropic отследила более 150 000 сессий от DeepSeek, которые, по-видимому, были направлены на улучшение базовой логики и согласованности, особенно в отношении цензурно-безопасных альтернатив запросам, связанным с политикой.
Moonshot AI провела более 3,4 миллиона сессий, нацеленных на агентное рассуждение и использование инструментов, кодирование и анализ данных, разработку компьютерных агентов и компьютерное зрение. В прошлом месяце компания выпустила новую модель с открытым исходным кодом Kimi K2.5 и агент для кодирования.
13 миллионов сессий MiniMax были нацелены на агентное кодирование, использование инструментов и оркестровку. Anthropic заявила, что смогла наблюдать за действиями MiniMax, когда та перенаправила почти половину своего трафика для заимствования возможностей новейшей модели Claude сразу после ее запуска.
Anthropic заявляет, что продолжит инвестировать в средства защиты, которые затрудняют проведение атак с использованием дистилляции и упрощают их выявление, но призывает к «скоординированным действиям со стороны всей ИИ-индустрии, облачных провайдеров и политиков».
Атаки с использованием дистилляции происходят в то время, когда экспорт американских чипов в Китай по-прежнему вызывает жаркие споры. В прошлом месяце администрация Трампа официально разрешила американским компаниям, таким как Nvidia, экспортировать передовые ИИ-чипы (например, H200) в Китай. Критики утверждают, что это ослабление экспортного контроля увеличивает вычислительные мощности Китая в критический момент глобальной гонки за доминирование в области ИИ.
Anthropic утверждает, что масштаб извлечения данных, проведенный DeepSeek, MiniMax и Moonshot, «требует доступа к передовым чипам».
«Таким образом, атаки с использованием дистилляции подтверждают обоснованность экспортного контроля: ограничение доступа к чипам сдерживает как прямое обучение моделей, так и масштабы незаконной дистилляции», — говорится в блоге Anthropic.
Дмитрий Алперович, председатель аналитического центра Silverado Policy Accelerator и соучредитель CrowdStrike, заявил TechCrunch, что не удивлен этими атаками.
«Уже давно было ясно, что частью причин быстрого прогресса китайских ИИ-моделей является кража путем дистилляции американских передовых моделей. Теперь мы знаем это как факт», — сказал Алперович. «Это должно дать нам еще более веские причины отказать в продаже любых ИИ-чипов любым из этих [компаний], что только даст им дополнительное преимущество».
Anthropic также заявила, что дистилляция угрожает не только подорвать доминирование Америки в области ИИ, но и может создать риски для национальной безопасности.
«Anthropic и другие американские компании создают системы, которые не позволяют государственным и негосударственным субъектам использовать ИИ, например, для разработки биологического оружия или проведения вредоносных киберопераций», — говорится в сообщении блога Anthropic. «Модели, созданные с помощью незаконной дистилляции, вряд ли сохранят эти меры защиты, а это означает, что опасные возможности могут распространяться с полностью удаленными многочисленными механизмами защиты».
Anthropic указала на развертывание авторитарными правительствами передовых ИИ для таких целей, как «наступательные кибероперации, кампании по дезинформации и массовое наблюдение», риск, который умножается, если эти модели становятся общедоступными.
TechCrunch обратился к DeepSeek, MiniMax и Moonshot за комментариями.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
