Во вторник Дональд Трамп наконец подписал свой указ, расширяющий усилия правительства по проведению добровольного тестирования безопасности передовых моделей ИИ. Теперь критики предупреждают, что указ может оказаться недальновидным, предлагая лишь показные заверения в том, что правительство активно отслеживает риски, связанные с ИИ, при этом мало что меняя в том, как и когда развертываются модели.
В прошлом месяце Трамп внезапно отменил церемонию подписания, на которой он надеялся представить раннюю версию указа в присутствии генеральных директоров ведущих фирм в области ИИ. Приглашенные в последнюю минуту, несколько генеральных директоров просто не смогли присутствовать на подписании, но все же выразили поддержку указу. Официально Трамп заявил, что отложил мероприятие, поскольку опасался, что указ мог зайти слишком далеко и стать «блокатором», препятствующим инновациям в области ИИ. По сообщениям, в его администрации наблюдалась внутренняя борьба: эксперты по кибербезопасности сталкивались с чиновниками, приверженными дерегулированию ИИ.
Ослабленный указ, который подписал Трамп, обещает «не душить эти инновации чрезмерно обременительным регулированием» и не устанавливает никаких требований для фирм, занимающихся ИИ. Вместо этого он создает добровольный процесс для компаний по сотрудничеству с правительством в проведении проверок безопасности, которые, как утверждается в указе Трампа, должны «обеспечить быстрое развертывание лучших и самых безопасных технологий для противодействия любым угрозам нашей стране».
Согласно этому указу, написал Трамп, «мы продолжим возглавлять усилия по кибербезопасности в духе «Америка прежде всего», которые укрепляют как нашу национальную безопасность, так и наше глобальное доминирование в области ИИ».
Однако эксперты, проанализировавшие указ, предполагают, что между слитым проектом, вызвавшим негативную реакцию отрасли, и указом, который Трамп в итоге подписал без громкого мероприятия с участием генеральных директоров, мало что изменилось.
,
Самое большое различие, как сообщил Politico источник, заключается в количестве времени, которое правительство будет иметь для проведения добровольного тестирования. Отмененный указ Трампа предусматривал доступ к моделям за 90 дней до других доверенных партнеров, предоставляя федеральному правительству более широкое окно для тестирования и устранения уязвимостей. Но Трамп, по-видимому, счел, что такое широкое окно рискует отбросить США назад в гонке ИИ, поэтому он подписал версию указа, сокращающую это окно до 30 дней.
Что говорится в указе?
Согласно указу, Трамп поручил Агентству национальной безопасности (АНБ) разработать засекреченный процесс бенчмаркинга для определения порога для обозначения модели ИИ как «охватываемой передовой модели». АНБ также должно сотрудничать с Министерством финансов США и Агентством по вопросам кибербезопасности и защиты инфраструктуры (CISA) для создания «клиринговой палаты по кибербезопасности» для сканирования и устранения уязвимостей в масштабе, а также добровольной основы для разработчиков ИИ по представлению моделей на тестирование безопасности.
Однако критики указали, что текст указа ясно показывает, насколько правительство не готово проводить значимое тестирование безопасности в столь сжатые сроки.
Трамп хочет, чтобы эти процессы были налажены в течение 30 дней, но, по-видимому, правительству потребуется больше времени, чтобы набрать таланты и развить экспертизу для проведения тестов безопасности. Указ дает Управлению кадровой политики 60 дней на «расширение путей найма и размещения специалистов по кибербезопасности в рамках инициативы United States Tech Force Information Cybersecurity Specialist».
Указ также предполагает, что финансирование может стать краткосрочной проблемой, предписывая Управлению по вопросам бюджета и управления «определить, имеются ли в распоряжении федеральных грантовых программ соответствующие средства, которые могут быть направлены заявителям, разрабатывающим передовые методы обнаружения уязвимостей ИИ».
,
В качестве временной меры, пока правительство спешит с реализацией программы, Трамп, по-видимому, планирует усилить правоприменение, чтобы запугать тех, кто может использовать непроверенные модели ИИ. Указ предписывает генеральному прокурору «приоритезировать правоприменение в отношении лиц, использующих ИИ для незаконного доступа или повреждения компьютерных систем, кражи данных или содействия другой преступной деятельности», — говорится в информационном бюллетене Белого дома.
В информационном бюллетене Трампа утверждалось, что указ устанавливает «правильный баланс между инновациями и безопасностью». Но критики обеспокоены тем, что указ Трампа — который появился в ответ на общественное беспокойство по поводу рисков кибербезопасности, связанных с моделью Mythos от Anthropic — выглядит недальновидным и слишком сильно зависит от доброй воли фирм, занимающихся ИИ, в вопросе приоритета общественной безопасности над прибылью.
Некоторые инсайдеры, вероятно, также остаются критически настроенными. Politico отметил, что один из бывших советников Трампа по ИИ, Дин Болл, написал в X, что преимущества добровольных проверок кажутся «едва артикулируемыми».
«Что именно разведывательное сообщество сможет сделать за 30 дней, чтобы сделать модели безопаснее?» — написал Болл.
Сокращения DOGE могут отбросить назад тестирование безопасности
В статье, разбирающей указ Трампа, два эксперта из беспартийного аналитического центра Совета по международным отношениям (CFR) объяснили значение указа и то, что кажется очевидными недостатками.
Мэтью Феррен, научный сотрудник по международным делам в области национальной безопасности, предположил, что указ «лучше всего понимать как попытку создать окно возможностей для кибербезопасности», которое «предоставляет защитникам преимущественный доступ к передовым кибервозможностям, одновременно пытаясь отсрочить доступ противника».
«Цель состоит в том, чтобы защитники находили и устраняли критические уязвимости быстрее, чем противники смогут их использовать, но это, вероятно, окажется сложной задачей», — написал Феррен.
,
Хотя найти уязвимости может быть легко, последовательное исправление критически важных государственных систем для защиты от рисков, вероятно, будет сложной задачей, предположил Феррен, особенно без специализированной команды государственных экспертов. В прошлом году CISA стала одним из наиболее пострадавших агентств во время сокращений в рамках Департамента эффективности государственного управления (DOGE). Лучшие специалисты по кибербезопасности в правительстве были «разгромлены», — сообщил CBS News, — поскольку высокопоставленные сотрудники были уволены, агентство было разгромлено, а контракты на кибербезопасность отменены, — сообщал Time Magazine.
Феррен написал, что резкое сокращение финансирования CISA может быть причиной того, что Трампу пришлось возложить «важную оперативную роль» на Министерство финансов, а не на «более очевидные стороны», такие как CISA или Офис национального кибердиректора. Это «может отражать то, что это одно из немногих мест, где сохраняется институциональный потенциал», — сказал Феррен.
Указ Трампа может не заблокировать опасные развертывания
Хотя «кто будет тестировать передовые модели» остается насущным вопросом для администрации Трампа, «наиболее сложным для выполнения» положением указа, по словам Винь Нгуена, старшего научного сотрудника CFR по ИИ, будет «определение того, что считать «охватываемой передовой моделью»». Как объяснил Нгуен:
«Передовые системы ИИ вероятностны, целенаправленны, все более автономны и непрозрачны. У них нет фиксированных потолков возможностей. Они демонстрируют эмерджентное поведение, которое меняется в зависимости от масштаба, тонкой настройки, вспомогательных программных структур и контекста развертывания. Модель, которая кажется ничем не примечательной при изолированном тестировании, может стать мощным киберинструментом при интеграции в автономный конвейер с доступом к реальной цифровой инфраструктуре».
По словам Нгуена, правительство должно быть осторожным при принятии решения о том, какие модели требуют проверки безопасности, поскольку существует риск выпуска моделей с «поистине опасными возможностями», если определение охватываемой модели «слишком узкое». Но если оно «слишком широкое», то процесс оценки рискует исчерпать «ограниченный талант, доступный для этой работы».
,
Как только охватываемые модели будут определены, Нгуен далее предупредил, что эффективность проверки безопасности, вероятно, будет зависеть от того, будут ли фирмы, занимающиеся ИИ, полностью прозрачными и будут ли они рассматривать этот процесс как «подлинное сотрудничество».
«Под проблемой определения скрывается проблема наблюдаемости», — написал Нгуен. «Правительство не может оценить то, что не может увидеть, а передовые возможности видны только лабораториям, которые их создают».
Феррен предположил, что «окно для создания надлежащей киберзащиты от новых моделей ИИ также может быстро закрыться», и что даже хорошо спроектированная государственная программа может столкнуться с трудностями при надлежащей проверке передовых моделей в столь сжатые сроки. «Даже при хорошей реализации предварительное тестирование имеет свои пределы», — сказал Феррен, отметив, что команда Google по разведке угроз обнаружила, что связанные с государством субъекты используют передовые модели для автоматизации кибератак, а «исследователи показали, что рассуждения об уязвимостях в стиле Mythos могут быть воспроизведены с помощью систем с открытым весом».
Таким образом, хотя ИИ может добровольно представить свои модели на тестирование, они могут быть финансово мотивированы стремиться к формальному одобрению, а не к сотрудничеству с правительством для всестороннего тестирования известных передовых возможностей.
«Вероятно, будет трудно разработать модели, неспособные к злонамеренному взлому, но при этом коммерчески привлекательные», — сказал Феррен.
Он заключил, что указ «может принести краткосрочную выгоду в области кибербезопасности», но «долгосрочный эффект» остается «неясным».
Нгуен предположил, что указ предпринимает необходимые шаги для создания «засекреченного кибербенчмаркинга, добровольной предварительной оценки и скоординированного сканирования уязвимостей», которые «сообществу национальной безопасности понадобятся десятилетиями» для «постоянной оценки систем, которые являются вероятностными, а не детерминированными, автономными, а не управляемыми, и чьи возможности меняются с каждым обновлением».
Но тестирование безопасности должно развиваться так же быстро, как и сама технология, сказал Нгуен, иначе мы рискуем оценивать новые модели по «вчерашним рискам».
Вот почему, по сути, процесс будет зависеть от честного обмена между заинтересованными сторонами, обладающими глубокой технической экспертизой и конфиденциальной информацией о национальной безопасности. Это единственный способ гарантировать, что США сосредоточат свои усилия на защите общественности от наиболее достоверных и значимых рисков ИИ, а не просто предоставят «показные заверения», — написал Нгуен.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
