По мере того как китайские модели, такие как серия GLM от Zhipu и Kimi от Moonshot, сокращают разрыв в возможностях с западными передовыми системами, разрыв в механизмах безопасности резко увеличился. Европейская некоммерческая организация SaferAI опубликовала независимый аудит рисков модели Zhipu GLM-5.2, протестировав модель без координации с Zhipu и сравнив её с Claude Opus 4.7 и GPT-5.5 по четырём категориям системных рисков, определённых в Кодексе практики ЕС для ИИ общего назначения.
По возможностям кибератак и бионауки GLM-5.2 отстаёт от GPT-5.5 всего на два-четыре месяца. В области безопасности разрыв драматичен. В шести подобластях, включая криптографию, веб-эксплойты, Pwn и реверс-инжиниринг, GLM-5.2 сравнялся с закрытыми моделями в зонах глубокого красного цвета, достигнув 100-процентной проходимости в некоторых областях, при этом защита на основе фильтрации контента полностью отсутствовала. Модель не показала отказов в поведенческих тестах на склонность к программам-вымогателям, вредоносное убеждение или давление на ложь.
На бенчмарке CyBench в стиле CTF GLM-5.2 выполнил 29 из 34 задач, сравнявшись с Claude Opus 4.7 и отстав от GPT-5.5 (31 задача), однако выполнил каждый шаг без появления каких-либо подсказок безопасности, в то время как Claude и GPT вызывали запросы на фильтрацию на ключевых этапах. На CyberGym, который моделирует обнаружение уязвимостей в реальном мире, GLM-5.2 воспроизвёл лишь малую часть уязвимостей при бюджете вывода в 2 миллиона токенов, но достиг 76% воспроизведения при 50 миллионах токенов, приблизившись к 88,1% у GPT-5.5. Институт безопасности ИИ Великобритании ранее утверждал, что киберриск модели — это не фиксированная оценка, а функция вычислительных ресурсов и времени вывода, и данные SaferAI это подтверждают.
Структурная проблема заключается в открытой публикации весов. Как только веса покидают официальный API, провайдеры могут полностью удалить фильтры контента и проверку на уровне учётной записи, лишая исходную лабораторию возможности обеспечивать защиту. TechCrunch утверждает, что проблема характерна не только для Zhipu, но отражает всю экосистему китайских открытых LLM. Как выразился один китайский комментатор, открытые возможности атакующих уже достигли порога передовых систем, и именно разрыв в безопасности, а не разрыв в возможностях, определит следующую точку регулирования.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
