Одна из самых опасных идей об ИИ — это мысль о том, что ему можно позволить работать самостоятельно и надежно выполнять всю работу без вашего надзора. Серьезные предприятия понимают, что автономному ИИ нельзя доверять, каким бы продвинутым он ни был. Microsoft тоже это понимает и теперь добавляет новую защитную меру в Copilot Studio, которая позволит организациям требовать одобрения человека перед запуском агентом определенных инструментов.
Разработчики ИИ-агентов, использующие Microsoft Copilot Studio для создания внутренних ИИ-систем, смогут включить требование одобрения человеком для каждого инструмента и каждого агента. Как только инструмент будет ограничен, агент приостановит работу перед его запуском и отобразит запрос на одобрение с объяснением того, что он намерен сделать. Затем человек сможет одобрить действие, одобрить его на оставшуюся часть сеанса или полностью отклонить.
Это должно быть особенно полезно для агентов, которые могут выполнять более конфиденциальные действия. Microsoft приводит конкретные примеры, такие как отправка электронных писем, закрытие заявок и обработка платежей. В этих случаях агент больше не сможет просто действовать самостоятельно, если инструмент настроен на требование одобрения.
Требование одобрения работает независимо от встроенных инструкций агента. Другими словами, даже если агент решит, что запуск определенного инструмента является правильным следующим шагом, его все равно можно заставить ждать человека, прежде чем что-либо делать. Внедрение таких мер безопасности может предотвратить выход агента из-под контроля и причинение огромного ущерба компании.
Запросы на одобрение будут появляться непосредственно в канале, где работает агент. Microsoft заявляет, что это включает Microsoft Teams и Microsoft 365 Copilot, поэтому пользователям не придется каждый раз заходить в Copilot Studio, когда действие требует одобрения.
Эта функция указана под идентификатором дорожной карты 570434 в теперь называемой «AI at Work roadmap» и запланирована к общемировому выпуску в стандартном многопользовательском облаке Microsoft. В настоящее время Microsoft указывает ее как выпуск общей доступности для веб-версии Copilot Studio.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ivan Jenic
