Агентство национальной безопасности США (NSA), Агентство по обеспечению кибербезопасности и безопасности инфраструктуры (CISA) и ФБР во вторник выпустили заявление, в котором обвинили китайские компании, занимающиеся разработкой ИИ, в «кампаниях по промышленному масштабированию дистилляции против американских ИИ-компаний».
«Вероятно, с ведома китайского правительства, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI извлекли миллиарды токенов за миллионы обменов/запросов из передовых американских ИИ-моделей, включая варианты Claude, GPT, Gemini и Grok, по крайней мере с конца 2024 года», — говорится в заявлении. Эти действия названы «агрессивными, злонамеренными и целенаправленными».
Сроки совпадают с предстоящей важной встречей представителей США и Китая. На прошлой неделе Reuters сообщило, что в этом месяце министр финансов Скотт Бессент встретится с китайскими официальными лицами для переговоров по безопасности ИИ.
Дистилляция — это законный и общепринятый метод в разработке ИИ. При дистилляции более мощная «учительская» модель может передать меньшей «студенческой» модели способность генерировать более полезные и точные результаты, что приводит к сжатой, но эффективной модели. Однако передовые ИИ-лаборатории, такие как Anthropic, исторически прилагают большие усилия, чтобы предотвратить дистилляцию своих моделей другими лабораториями. «Незаконно дистиллированные модели не имеют необходимых мер безопасности, создавая значительные риски для национальной безопасности», — пишет Anthropic.
В прошлом году OpenAI была в авангарде борьбы против дистилляции, заявив Financial Times, что собрала собственные доказательства того, что китайская компания DeepSeek провела дистилляцию против ее воли. Однако в своих более поздних заявлениях о дистилляции генеральный директор OpenAI Сэм Альтман стал звучать менее обеспокоенным, чем предполагало прошлое поведение его компании. «Я бы предпочел, чтобы люди не занимались дистилляцией от нас, конечно. Но это не входит в мой топ-10 беспокойств», — сказал он в июльском интервью.
Мысленное путешествие в пыльное, забытое прошлое двухлетней давности — увлекательное упражнение в этом контексте. Если перенестись в 2024 год — пик дискуссий о «машинах-плагиаторах», — вы обнаружите, что OpenAI представила свидетельство в парламент Великобритании, заявив: «Поскольку авторское право сегодня охватывает практически все виды человеческого выражения, включая сообщения в блогах, фотографии, сообщения на форумах, фрагменты программного кода и правительственные документы, было бы невозможно обучить ведущие ИИ-модели сегодняшнего дня без использования материалов, защищенных авторским правом».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
