Qwen 3.8 от Alibaba: ИИ с новым, “западным” взглядом

ии модели китай обучение цензура theregister.com

Американская лаборатория Nous Research переобучила китайскую модель Qwen3.8-27B, удалив пропаганду и укрепив западные ценности. Модель Arete теперь выдает меньше предвзятых ответов.

Американская лаборатория искусственного интеллекта переобучила Qwen3.8-27B, популярную большую языковую модель с открытым весом от Alibaba, чтобы программное обеспечение забыло свое китайское происхождение.

Nous Research, лаборатория ИИ из Остина, штат Техас, подвергла модель переобучению посредством тренировок, не путать с китайской системой «перевоспитание трудом».

С помощью процесса постобучения Qwen3.8-27B возродилась под именем Arete «для укрепления западных ценностей в модели, обученной в Китае».

Что именно является «западной ценностью», остается открытым для интерпретации.

«Китайские модели с открытым весом являются одними из самых мощных, но они поставляются с встроенным в веса поведением, соответствующим государству», — написала Nous Research в блоге.

Ваш корреспондент протестировал это локально на варианте модели Qwen3.8-27B-MLX-6bit. При запросе о событиях 1989 года на площади Тяньаньмэнь модель либо отказывалась обсуждать тему, либо давала эвфемистические ответы. Что, возможно, более удивительно, так это то, что Anthropic утверждает, что операторы, связанные с китайской лабораторией Qwen от Alibaba, использовали выходные данные своих моделей Claude для обучения конкурирующих ИИ-моделей через дистилляцию.

Nous Research, создатель Hermes Agent, ссылается на такого рода цензуру как на риск для пользователей ИИ-моделей, обученных в Китае. Опасения возникают на фоне более широкого изучения китайского влияния в технологической индустрии, усиленного отставкой генерального директора Nvidia Дженсена Хуанга после скандала, связанного с женщиной, которую американская разведка обвинила в шпионаже в пользу Китая.

Nous заявляет, что риск, исходящий от ИИ-моделей китайского производства, выходит за рамки продвижения мировоззрения Пекина. Согласно исследованию Booz Allen Hamilton, которая ведет обширный бизнес с правительством США, некоторые модели из Поднебесной при определенных условиях могут генерировать более уязвимый код.

Hirundo, поставщик, который заявляет, что создает «первую платформу для деобучения машин, чтобы гарантировать, что ИИ-модели знают только то, что должны», выдвигает аналогичный аргумент. Компания также отмечает, что ее усилия по применению «деобучения» к Qwen3.6-35B-A3B привели к резкому снижению выходных данных, отражающих предпочтительную цензуру Коммунистической партии Китая, пропагандистские сообщения или предвзятость. До деобучения 89,8% выходных данных модели отражали эти ценности, после — показатель снизился до 2,8%.

Nous Research не добилась таких драматических результатов, но отметила общее сокращение точек зрения, которые считаются пропагандой.

«По нашей оценке, Arete-27B повысила свой показатель фактической точности с 2,32 до 2,98 из 5 и сократила количество ответов, содержащих пропаганду, с 22% до 1%, что соответствует западным моделям, которые мы тестировали», — заявила компания.

Для обработки деобучения Arete, Nous Research заявила, что кратко рассматривала Nemotron 3 Ultra от Nvidia, «но обнаружила свидетельства того, что она также имела неоднозначную репутацию в отношении тем, связанных с Китаем».

«Мы не знаем наверняка, но предполагаем, что предвзятость, привнесенная в Nemotron, возникла в результате работы с китайскими открытыми моделями в процессе обучения», — заявила компания. «Мы испытали аналогичное загрязнение, поскольку подавляющее большинство высококачественных открытых моделей являются китайскими, и только открытые модели имеют условия использования, которые допускают такого рода манипуляции и эксперименты».

В итоге компания выбрала Inkling, открытую модель от американской Thinking Machines Lab, в качестве обучающей модели.

Nous Research заявляет, что ее усилия по переобучению моделей показывают, что пропагандистский слой является поверхностным и при 50 миллионах токенов управляемого обучения его относительно легко удалить. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: