Согласно отчету об инциденте, который был просмотрен и освещен изданием The Information, сотрудник Meta* разместил на внутреннем форуме запрос о помощи с техническим вопросом — это стандартная процедура. Однако другой инженер попросил ИИ-агента помочь проанализировать этот вопрос, и агент в итоге опубликовал ответ, не запросив у инженера разрешения на его распространение. Meta* подтвердила инцидент изданию The Information.
Как выяснилось, ИИ-агент дал неверный совет. Сотрудник, задавший вопрос, в итоге предпринял действия на основании рекомендаций агента, что непреднамеренно сделало огромные объемы данных компании и пользователей доступными для инженеров, не имевших соответствующих прав доступа, на протяжении двух часов.
Meta* классифицировала инцидент как «Sev 1» — это второй по степени серьезности уровень во внутренней системе компании для оценки проблем безопасности.
Неуправляемые ИИ-агенты уже создавали проблемы в Meta*. Саммер Юэ, директор по безопасности и согласованию в Meta* Superintelligence, сообщила в X в прошлом месяце, как ее агент OpenClaw удалил всю ее папку «Входящие», хотя она просила его подтверждать с ней любые действия.
Тем не менее, Meta* сохраняет оптимизм относительно потенциала агентного ИИ. Буквально на прошлой неделе Meta* приобрела Moltbook — социальную сеть в стиле Reddit, предназначенную для общения агентов OpenClaw друг с другом.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling
