Microsoft выпустила грозное предупреждение для своего нового, очень мощного, но дорогого ИИ-инструмента

Microsoft ии Copilot автоматизация безопасность разработка neowin.net

Microsoft предупреждает о мощном ИИ-инструменте Copilot Cowork: узнайте о его возможностях и рисках. Оцените, как ИИ может автоматизировать задачи, но помните об ответственности за его действия.

На прошлой неделе Microsoft выпустила обновления Patch Tuesday для Windows, но не все пользователи смогли установить их без проблем, что, впрочем, вполне ожидаемо. Некоторые из проблем еще не признаны компанией, а это значит, что пользователи и администраторы вынуждены искать собственные обходные пути и решения.

Это не останавливает Microsoft от попыток улучшений, поскольку компания постоянно выпускает множество инструментов на базе ИИ, которые разработчики могут использовать для создания более качественных приложений. Например, недавно она опубликовала руководство о том, как разработчики могут использовать новый инструмент командной строки winapp CLI для создания нативных приложений WinUI 3 всего за 30 минут. В последнее время были выпущены и другие подобные утилиты.

Помимо разработки приложений, Microsoft хочет, чтобы пользователи как можно шире использовали ИИ-агентов и автоматизацию. Недавно компания выпустила Copilot Cowork — очень мощный и функциональный, хотя и платный, агентский ИИ-инструмент, который может автоматизировать множество рабочих процессов, включая разработку приложений.

Однако, несмотря на все преимущества, компания выпустила серьезные предупреждения как для администраторов, так и для пользователей. В статье поддержки, посвященной этой функции, на которую сегодня обратили внимание Neowin, Microsoft разместила крупные дисклеймеры об ошибках, которые может допускать ИИ, и призвала использовать его очень осторожно на каждом этапе, четко давая понять, что в конечном итоге ответственность за результат несет пользователь, а не инструмент Microsoft. Компания пишет:

Microsoft Copilot использует ИИ и может допускать ошибки, неправильно интерпретировать инструкции или быть обманутым вредоносными скрытыми инструкциями. Пожалуйста, внимательно отслеживайте результаты и проверяйте важные детали, особенно при выполнении задач, связанных с платежами, личной информацией, общением с другими людьми или внесением изменений в учетные записи или файлы. Copilot запросит ваше одобрение или вернет управление вам для выполнения конфиденциальных действий. Вы несете ответственность за действия, которые Copilot выполняет от вашего имени. Использование Copilot означает ваше согласие с Условиями использования.

Кроме того, Neowin также заметил недавно добавленную страницу поддержки, касающуюся новой функции “Approve actions” (Одобрение действий), которую предоставляет Cowork. Как следует из названия, она в основном запрашивает разрешение пользователя, прежде чем Cowork приступит к выполнению назначенной задачи.

И снова на этой странице присутствует большое предупреждение, которое напоминает пользователям: “Вы несете ответственность за действия, которые Copilot выполняет от вашего имени. Всегда проверяйте детали в диалоговом окне одобрения перед продолжением. Убедитесь, что получатели, контент и другие параметры указаны верно. Не пропускайте запросы на одобрение для действий, в которых вы не уверены, поскольку Copilot может допускать ошибки, неправильно интерпретировать инструкции или быть обманутым.

Новые запросы на одобрение или диалоговое окно “Approve actions” позволяют выполнить конкретную задачу с одобрения пользователя/администратора, но вы также можете отменить ее, нажав кнопку “Cancel” (Отмена). Хорошим моментом здесь является то, что Cowork позволит приостановить любое действие в середине выполнения задачи даже после того, как вы его одобрили, с возможностью либо продолжить, либо полностью отменить его, если вы не уверены в результате.

Что касается того, когда такие одобрения в основном вступают в игру, Microsoft перечислила типы задач, которые потребуют их. К ним относятся ситуации, когда веб-сайт или приложение ограничивает автоматическое взаимодействие, требует дополнительных шагов для входа или ручного вмешательства (например, при совершении покупок, бронировании или доступе к защищенному контенту) или представляет другие сложности. Ниже приведены основные примеры таких случаев:

  • Денежные операции, такие как завершение покупки или отправка платежа.
  • Отправка личной информации на внешние веб-сайты, такой как имена, адреса или номера телефонов.
  • Действия, связанные с другими людьми, такие как отправка электронных писем или сообщений.
  • Действия, изменяющие учетную запись, включая удаление файлов, изменение облачного хранилища, отмену подписок или изменение настроек учетной записи.
  • Конфиденциальные действия, такие как отправка данных, связанных со здоровьем, государственные документы или изменения, связанные с безопасностью.

Вы можете ознакомиться с новой статьей поддержки здесь на официальном сайте Microsoft.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: