Центр стандартов и инноваций в области ИИ (CAISI), подразделение Министерства торговли США, заключил соглашения с Google DeepMind, Microsoft и xAI, которые предоставят агентству возможность проводить проверку моделей ИИ этих и других организаций до их публичного выпуска.
Согласно заявлению CAISI, входящего в состав Национального института стандартов и технологий (NIST) при министерстве (NIST), он будет «проводить оценки перед развертыванием и целевые исследования для лучшей оценки возможностей передовых систем ИИ и продвижения уровня безопасности ИИ».
Эти три компании присоединяются к Anthropic и OpenAI, которые подписали аналогичные соглашения почти два года назад во время администрации Байдена, когда CAISI был известен как Институт безопасности искусственного интеллекта США.
В заявлении от августа 2024 года об этих соглашениях указывалось, что институт планирует предоставлять обратную связь обеим компаниям по поводу «потенциальных улучшений безопасности их моделей в тесном сотрудничестве с партнерами из Института безопасности ИИ Великобритании (AISI)».
Microsoft во вторник заявила в блоге о последнем соглашении, что оно и подобные ему имеют решающее значение для укрепления доверия к передовым системам ИИ. По заявлению компании, по мере развития возможностей ИИ должна расти и строгость тестирования и мер защиты, лежащих в их основе.
Сдвиг в сторону проактивной безопасности
Фриц Жан-Луи, главный советник по кибербезопасности в Info-Tech Research Group, отметил, что соглашения CAISI сигнализируют о сдвиге в сторону проактивной безопасности для агентного ИИ, поскольку они позволяют проводить тестирование передовых моделей под руководством правительства до и после развертывания.
По его словам, это должно «помочь усилить прозрачность автономного поведения, одновременно ускоряя разработку стандартов для смягчения рисков. Сочетая ранний доступ, непрерывную оценку и межсекторальное сотрудничество, эта инициатива подталкивает отрасль к принципу «безопасность по умолчанию» для все более автономных систем ИИ».
Однако, добавил Жан-Луи, «следует учитывать несколько потенциальных препятствий, например: как будет защищаться интеллектуальная собственность при таком подходе? Тем не менее, я считаю, что это позитивный шаг для отрасли».
Указ «обретает форму»
После объявления CAISI в опубликованном в среду отчете указывалось, что Белый дом готовится издать указ, который предусматривает создание системы проверки для всех новых моделей искусственного интеллекта, ключевой из которых является Mythos от Anthropic.
Bloomberg сообщил, что «директива обретает форму спустя несколько недель после того, как Anthropic раскрыла, что ее прорывная модель Mythos умело находила сетевые уязвимости и могла представлять угрозу глобальной кибербезопасности».
Значительный сдвиг в направлении политики
Карми Леви, независимый технологический аналитик, заявил, что «совершенно очевидно, что объявление этой недели, учреждающее Центр стандартов и инноваций в области ИИ в качестве испытательного полигона для передовых моделей ИИ, напрямую связано с потенциальным указом, который приведет к созданию системы проверки моделей ИИ».
По его словам, не случайно, что «объявления были сделаны в быстрой последовательности, и это подчеркивает растущую срочность для правительств США и других стран в укреплении партнерских отношений с ключевыми поставщиками ИИ для максимизации безопасности, связанной с ИИ, и минимизации потенциала системного риска».
Леви отметил, что эта последняя волна активности из Вашингтона знаменует собой значительный сдвиг в направлении политики администрации, которая до недавнего времени придерживалась более невмешательского подхода к регулированию.
Обеспокоенность по поводу модели Claude Mythos от Anthropic и относительная легкость, с которой она могла обнаруживать и использовать уязвимости в цифровых системах, «могли способствовать изменению позиции федерального правительства в отношении регулирования, связанного с ИИ, особенно в отношении возобновления усилий по обеспечению соблюдения стандартов для развертывания, связанных с ИИ, в федеральной инфраструктуре», — сказал он.
Леви добавил, что поставщики ИИ, такие как Google, Microsoft и xAI, «должны балансировать на своего рода политическом канате, поскольку они стремятся своевременно и экономически эффективно выпускать модели на рынок, соблюдая при этом все более четкие правила, касающиеся кибербезопасности и безопасности ИИ. Отрасль не может позволить себе сценарий, при котором поставщики сами устанавливают правила по ходу дела».
В то же время, по его словам, недавнее противостояние между Anthropic и Пентагоном иллюстрирует, почему поставщиков можно простить за то, что они рассматривают растущий интерес федерального правительства к тестированию и регулированию ИИ с определенной долей осторожности.
По мнению Леви, «хотя усилия администрации по централизации тестирования и надзора должны оптимизировать процесс вывода продуктов на рынок для поставщиков и ускорить разработку передовых практик в области разработки передовых моделей, нельзя игнорировать политический подтекст недавних партнерств между правительством и отраслью».
Эта статья изначально была опубликована на CIO.com.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Barker
