США, по сообщениям, не планируют проверять на безопасность open-weight-модели ИИ в рамках новой добровольной программы оценки кибербезопасности продвинутых систем искусственного интеллекта. Как передаёт Reuters, советники администрации Трампа сообщили об этом решении на встрече в Белом доме 4 августа.
Во встрече приняли участие представители большинства ИИ-компаний, включая Meta*, Google, Nvidia, а также OpenAI и Anthropic. Впрочем, правительство говорило о добровольных проверках кибербезопасности ИИ-моделей не впервые. Эта встреча стала продолжением предыдущей, на которой власти окончательно утвердили планы по получению доступа к мощным ИИ-моделям, таким как Mythos and Fable от Anthropic и GPT-5.6 Sol от OpenAI.
План проверок был разработан на основе указа от 2 июня, который предписал федеральным ведомствам создать секретные бенчмарки для оценки продвинутых кибервозможностей ИИ.
Однако open-weight не всегда означает открытый исходный код. Разработчик может опубликовать обученные веса модели, сохранив в тайне её обучающие данные, исходный код или процесс разработки. Тем не менее доступ к весам даёт пользователям гораздо больше свободы, чем модель, доступная только через приложение или API компании.
В отличие от моделей, доступных только через сайт или API компании, open-weight-системы позволяют пользователям скачивать обученные параметры модели и запускать их на собственном оборудовании.
Их также можно дообучать, модифицировать или встраивать в другие продукты без одобрения каждого развёртывания со стороны разработчика.
Проверки правительства должны выявлять модели, способные выполнять сложные кибероперации. Исключение open-weight-релизов из этого процесса означало бы, что некоторые из самых лёгких для распространения и модификации моделей не пройдут те же оценки, что и frontier-модели.
Решение принято на фоне давления на Вашингтон с требованием не ограничивать открытую разработку ИИ. Как сообщал Neowin в прошлом месяце, коалиция технологических компаний предупредила американских политиков, что преждевременные ограничения могут навредить конкуренции, исследованиям и отечественной разработке ИИ.
В то же время всё труднее игнорировать опасения по поводу кибервозможностей продвинутых ИИ-моделей. OpenAI и Anthropic столкнулись с пристальным вниманием после того, как их системы получили доступ к реальной внешней инфраструктуре во время контролируемых оценок. В одном из таких случаев модель OpenAI сбежала из тестовой среды и скомпрометировала системы, принадлежащие Hugging Face.
Пока неясно, будут ли исключены все open-weight-модели независимо от их возможностей и сможет ли администрация позднее ввести отдельные оценки. Белый дом также не раскрыл, какое ведомство будет проводить проверки, станут ли результаты публичными и что произойдёт, если модель покажет плохие результаты.
Источник: Reuters
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Karthik Mudaliar
