Администрация Трампа обсуждает на ранних этапах вопрос о необходимости проверки передовых моделей искусственного интеллекта перед их публичным выпуском, о чем сообщают New York Times, Wall Street Journal и Axios.
Обсуждения сосредоточены на системах, способных облегчать кибератаки, в частности на моделях, которые могут помочь пользователям выявлять и использовать уязвимости программного обеспечения. Чиновники рассматривают несколько вариантов, включая формальные процессы предварительного обзора перед выпуском и тестирование систем повышенного риска под руководством правительства. Никакое предложение еще не финализировано, и сроки не установлены.
Что изменилось
Эти обсуждения знаменуют собой сдвиг в тональности, если не в политике. 20 января 2025 года, в первый день своего второго срока, Дональд Трамп отменил Исполнительный указ Байдена 14110 о безопасной, надежной и заслуживающей доверия разработке и использовании искусственного интеллекта.
Тремя днями позже он издал собственный указ «Устранение барьеров на пути к лидерству Америки в области искусственного интеллекта», сигнализируя о значительном отходе от акцента администрации Байдена на надзоре и смягчении рисков в сторону структуры, ориентированной на дерегулирование и продвижение инноваций в области ИИ.
Среди того, что этот указ фактически прекратил: фреймворк Байдена предусматривал обязательное «красное тестирование» (red-teaming) для моделей ИИ высокого риска, усиленные протоколы кибербезопасности и требования мониторинга для ИИ, используемого в критической инфраструктуре. Новые обсуждения предполагают, что определенные риски безопасности — особенно связанные с наступательными кибервозможностями — требуют более активной позиции, даже несмотря на то, что администрация в целом выступает против всеобъемлющего регулирования ИИ.
Фактор Mythos
Дискуссия последовала за недавним представлением модели Mythos компанией Anthropic, которую компания назвала поворотным моментом для кибербезопасности.
Anthropic заявила, что Mythos Preview обнаружила тысячи уязвимостей высокой степени серьезности, в том числе в каждой крупной операционной системе и веб-браузере, и что модели ИИ достигли такого уровня навыков кодирования, что могут превзойти всех, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения. В одном тесте компания сообщила о значительно более высоких показателях успеха по сравнению с предыдущими моделями.
Anthropic не выпустила модель публично. Вместо этого она запустила Проект Glasswing, выделив до 100 миллионов долларов в виде кредитов на использование для отобранной группы технологических компаний и компаний, занимающихся кибербезопасностью, чтобы использовать Mythos в оборонительных целях — для поиска и устранения уязвимостей до того, как их смогут использовать злоумышленники.
Anthropic также проводила брифинги для Агентства по кибербезопасности и безопасности инфраструктуры, Министерства торговли и других заинтересованных сторон о потенциальных рисках и преимуществах Mythos Preview. OpenAI разработала сопоставимую модель и выпустила ее небольшой группе компаний через существующую программу доверенного доступа.
Что может означать проверка
Предварительная оценка моделей ИИ — не новая идея, но она остается плохо определенной в контексте политики США. Исполнительный указ Байдена, который отменил Трамп, требовал от разработчиков крупнейших систем ИИ уведомлять правительство и делиться результатами тестов безопасности перед развертыванием — это одно из положений, которое администрация Трампа охарактеризовала как обременительные препятствия для инноваций.
Институциональная картина также изменилась. Американский институт безопасности ИИ (US AI Safety Institute), созданный в соответствии с указом Байдена для проведения предразвертываемой оценки и базирующийся в Национальном институте стандартов и технологий, был существенно реорганизован после вступления Трампа в должность. В июне 2025 года агентство было переименовано в Центр стандартов и инноваций в области ИИ, а его миссия была пересмотрена.
Министр торговли Говард Лутник представил это изменение как отказ от того, что он назвал использованием безопасности в качестве предлога для цензуры и регулирования. Мандат переименованного центра теперь включает проведение несекретных оценок возможностей ИИ, которые могут представлять угрозу национальной безопасности, с акцентом на демонстративные риски, такие как кибербезопасность, биобезопасность и химическое оружие, что потенциально позиционирует его для участия в любом будущем процессе проверки.
Другие правительства пошли дальше и быстрее. Институт безопасности ИИ Великобритании провел предразвертывательные оценки нескольких передовых моделей, работая напрямую с лабораториями, включая Anthropic и OpenAI, для оценки пороговых значений риска до выпуска. Акт ЕС об ИИ, поэтапное введение которого началось в прошлом году, устанавливает обязательные оценки соответствия для приложений ИИ высокого риска.
США не создали сопоставимой структуры или правовой базы для требования таких проверок.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cynthia Brumfield
