На этой неделе Национальный институт стандартов и технологий США (NIST) объявил о начале нового этапа консультаций — Инициативы по стандартизации ИИ-агентов, которая, как ожидается, предложит дорожную карту для решения проблем, связанных с ИИ-агентами, и, по словам представителей института, обеспечит «широкое и уверенное внедрение» этой технологии.
ИИ-агенты, которые уже стали корпоративными инструментами, рассчитаны на автономную и мощную работу: это неоднозначные, но внушающие опасения концепции, границы которых не всегда легко определить или понять. Риски, связанные с их неправомерным использованием, ошибками и непреднамеренными последствиями, весьма значительны.
Однако Инициатива по стандартизации ИИ-агентов, действующая под руководством Центра стандартизации и инноваций в области ИИ (CAISI), созданного в NIST в июне прошлого года для замены Института безопасности ИИ США, основанного администрацией Байдена, будет заниматься не только вопросами безопасности.
Хотя это может показаться простым переименованием существующей инициативы, мандат CAISI теперь шире и более открыто политизирован. Прямо говоря, «CAISI стремится развивать формирующуюся экосистему стандартов и протоколов в области ИИ, управляемых промышленностью, одновременно укрепляя доминирование США на технологическом фронте», — говорится в пресс-релизе NIST.
Это будет означать укрепление лидерства США в международных органах по стандартизации, разработку ИИ-агентов с открытым исходным кодом и продвижение исследований в области безопасности и вариантов использования ИИ-агентов. Совместимость — способность агентов из разных компаний работать вместе — также будет приоритетом.
«При отсутствии уверенности в надежности ИИ-агентов и их совместимости между собой и с цифровыми ресурсами, новаторы могут столкнуться с фрагментированной экосистемой и замедленным внедрением», — заявили в NIST. «Для решения этой проблемы NIST, включая CAISI, стремится развивать технические стандарты и протоколы, управляемые промышленностью, которые укрепляют общественное доверие к ИИ-агентам, стимулируют развитие совместимой экосистемы агентов и распространяют их преимущества на всех американцев и весь мир».
Дополнительные опасения
Истории о просчетах агентов ИИ было трудно не заметить в последнее время: от уязвимости «EchoLeak» 2025 года, в ходе которой Microsoft 365 Copilot использовался для кражи данных, до внезапной популярности OpenClaw (ранее известного как Moltbot и Clawdbot) — полезного агента, который также открывает злоумышленникам незаметный доступ к приложениям и данным пользователя.
А в ноябре Совет по информационным технологиям, глобальная торговая ассоциация, выделил широкий спектр рисков безопасности и подотчетности, связанных с агентами ИИ, включая «неровный интеллект» — тенденцию моделей ИИ выполнять сложные задачи, терпя неудачу в гораздо более простых. Эти ошибки могут привести к непредсказуемым сбоям в автоматизированных средах для предприятий, говорится в сообщении.
Слишком медленное движение
По мнению Гэри Фиппса, руководителя отдела по работе с клиентами стартапа Helmet Security, занимающегося безопасностью агентов ИИ, проблема NIST заключается в том, что его инициативы отстают от реальных разработок. «История показывает, что все, что придумает NIST, вряд ли появится достаточно быстро, чтобы справиться с агентами ИИ», — сказал Фиппс.
«С момента объявления NIST о работе над Руководством по управлению рисками ИИ до публикации окончательной версии прошло около двух лет», — отметил он. «За тот же период возник весь ландшафт генеративного ИИ, он масштабировался и начал преобразовывать корпоративную безопасность. Теперь мы делаем это снова с агентами ИИ, а ответ NIST — больше запросов информации, больше консультаций, больше встреч».
NIST выпустил запрос информации (RFI) об угрозах, мерах защиты и методах оценки для агентов ИИ; предложения принимаются до 9 марта. Кроме того, CAISI проведет «консультации» в апреле по отраслевым барьерам для внедрения ИИ, сообщили в NIST.
Заявление NIST о «закреплении доминирования США на технологическом фронте» Фиппс назвал «смелым утверждением об инициативе, первым конкретным результатом которой станет консультация в апреле».
Он отметил: «Стандарты не создают доминирование: они следуют за ним. Руководство по управлению рисками ИИ (RMF) — тому подтверждение. На его создание ушло два года, и к моменту его завершения отрасль уже во многом сформировала собственное представление о рисках ИИ».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – John E. Dunn
