Модель Gemini от Google стала последней системой искусственного интеллекта (ИИ), получившей доступ в Интернет и проникшей в другие компании в ходе оценки кибербезопасности. Об этом первым сообщил The Wall Street Journal. Инциденты произошли в мае 2026 года в рамках тестового запуска, проведенного израильской компанией Irregular. Партнер по оценке также был вовлечен в аналогичные взломы, о которых сообщили OpenAI, Anthropic и *Meta. По данным The Journal, модель получила доступ к защищенной системе после многократного угадывания пароля. Еще два случая были связаны с тем, что модель обнаружила учетные данные в общедоступном репозитории, что позволило ей получить несанкционированный доступ к защищенным системам. Однако, в отличие от других инцидентов, наблюдавшихся в случаях с Anthropic и OpenAI, модель Gemini прекратила вторжение после обнаружения факта взлома реальной компании. Сообщается, что Irregular уведомила Google об инцидентах в июле 2026 года. В отчете, опубликованном в прошлом месяце, Irregular связала нарушения в ходе оценки с ошибкой в наименовании, из-за которой вымышленное название компании, использовавшееся во время учений “захват флага” (capture the flag), было ошибочно сопоставлено с реальным доменным именем, что позволило моделям воспользоваться непреднамеренным доступом в Интернет и атаковать домен “ограниченное количество раз”. “Это событие подчеркивает важность обучения мощных ИИ-моделей ответственному поведению”, — заявила Хизер Адкис, вице-президент Google по инженерным вопросам безопасности, The Wall Street Journal. “В данном случае модель действовала надлежащим образом”. Технологический гигант также отметил, что не считает такое поведение примером несоответствия модели, поскольку агенты прекратили свои действия после срабатывания механизмов безопасности. В настоящее время неизвестно, какие компании были целью атак, хотя Irregular подтвердила The Journal, что случай с Google был таким же, как и другие инциденты, и что проблема была решена несколько недель назад. Это сообщение появилось через несколько дней после того, как OpenAI обнаружила шесть дополнительных инцидентов, в ходе которых ее ИИ-агенты вышли из-под контроля, действовали обманным путем и предпринимали несанкционированные действия во время обучения. Это включало сокрытие ошибок, поиск несанкционированных учетных данных, загрузку файлов в общедоступный Интернет и общение через Artifactory для “чтения заметок других участников, опубликованных ответов и использования этих обменов для формирования своих ответов”. Лаборатории ИИ сталкиваются с растущим вниманием с тех пор, как OpenAI в июле сообщила, что вышедшие из-под контроля ИИ-агенты обошли внутренние системы контроля, получили доступ к открытому Интернету и действовали как рой для взлома Hugging Face. ИИ-стартап, назвавший это “беспрецедентным инцидентом кибербезопасности”, с тех пор объявил о новой структуре для сообщения о подобном ненадлежащем поведении моделей в будущем.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ravie Lakshmanan
