Знаете ли вы, что существует способ использования результатов работы больших языковых моделей (LLM), который не требует взлома — по сути, это просто взятие больших объемов текста и его перепрофилирование в качестве обучающих данных, — и который сильно расстраивает компании, занимающиеся разработкой ИИ?
В посте в блоге в понедельник компания Anthropic заявила, что базирующиеся в Китае ИИ-компании DeepSeek, Moonshot и MiniMax нарушили правила Anthropic, чтобы «незаконно извлечь» возможности ее флагманской модели ИИ Claude.
Дистилляция — это обычная практика, используемая ИИ-компаниями, при которой «учительская» модель получает специально подобранные входные данные, а предоставленные ответы позволяют «ученической» модели быстро совершенствоваться. Например, Anthropic пишет: «передовые лаборатории ИИ регулярно дистиллируют свои собственные модели для создания меньших и более дешевых версий для своих клиентов». Таким образом, чтобы отличить действия, на которые жалуется Anthropic, от использования дистилляции, считающегося законным, эти действия называют «атаками дистилляции».
Являются ли атаки дистилляции уголовными преступлениями в глазах Anthropic? Похоже, здесь не утверждается ничего подобного, но эти действия, по словам Anthropic, были совершены «в нарушение наших условий обслуживания и региональных ограничений доступа».
Anthropic, которая сама сталкивается с угрозой быть названной Пентагоном «риском для цепочки поставок», в своем посте занимает патриотическую позицию. Обход региональных ограничений использования и нарушение правил позволяет «иностранным лабораториям, в том числе находящимся под контролем Коммунистической партии Китая, сократить конкурентное преимущество, которое экспортный контроль призван сохранять иными средствами», — утверждает компания.
Среди трех упомянутых китайских компаний, базирующаяся в Шанхае MiniMax, создатель вирусного чат-приложения Talkie, больше всего оскорбила Anthropic масштабом своих усилий по дистилляции: более 13 миллионов предполагаемых обменов. Для сравнения, у Moonshot — более 3,4 миллиона, а у самой известной компании, упомянутой в посте, DeepSeek, — всего около 150 000.
OpenAI, главный конкурент Anthropic, также недовольна дистилляцией как минимум от одной китайской ИИ-компании, направив меморандум в Палату представителей ранее в этом месяце, обвинив DeepSeek в «постоянных усилиях по паразитированию на возможностях, разработанных OpenAI и другими передовыми американскими лабораториями».
Ожидается, что DeepSeek выпустит свою новейшую флагманскую модель DeepSeek V4 в ближайшие дни, и CNBC предупредила, что этот релиз может вызвать хаос на Уолл-стрит, в то время как связанного с ИИ хаоса на Уолл-стрит и так уже более чем достаточно.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
