Hugging Face сообщила о неординарном инциденте: системы были взломаны злоумышленником, причем атака от начала до конца управлялась автономной системой AI-агентов. Компания заявила, что обнаружила вторжение и проанализировала атаку в значительной степени с помощью собственного ИИ.
Фирма отметила, что агентный ИИ получил несанкционированный доступ к ограниченному набору интернет-датасетов и к нескольким учетным данным, используемым ее сервисами. Масштаб утечки данных пока неясен и расследуется, но если выяснится, что что-то было похищено, компания уведомит партнеров и клиентов. С положительной стороны, нет доказательств вмешательства в публичные, ориентированные на пользователя модели, датасеты или Spaces. Цепочка поставок ПО Hugging Face, включая образы контейнеров и опубликованные пакеты, также была проверена и признана чистой.
Восстанавливая хронологию событий, Hugging Face сообщает, что вредоносный датасет использовал два пути выполнения кода в обработке датасетов компании для запуска кода на рабочем узле обработки. После этого злоумышленник повысил привилегии до уровня узла, собрал облачные и кластерные учетные данные и за выходные переместился в несколько внутренних кластеров.
До сих пор неизвестно, какие большие языковые модели использовал агентный ИИ, однако он выполнил тысячи отдельных действий в рое временных песочниц, с само мигрирующими командными центрами на публичных сервисах. Подобные атаки прогнозировались, но теперь подтверждено, что они происходят.
Что вам нужно сделать
В плане действий, которые необходимо предпринять пользователям, Hugging Face рекомендует сменить все токены доступа и проверить недавнюю активность в вашей учетной записи. Если вы считаете, что могли пострадать, или хотите сообщить о проблеме безопасности, свяжитесь с компанией по адресу security@huggingface.co.
Что сделала Hugging Face
Компания предприняла множество мер для полного удаления доступа злоумышленника из своих систем: отозвала и сменила учетные данные и токены, развернула новые защитные механизмы и более строгий контроль допуска в кластеры, а также улучшила обнаружение и оповещение, чтобы страница сигналов высокой степени серьезности могла реагировать в течение минут. Также начато сотрудничество с внешними специалистами по кибербезопасности для расследования инцидента и пересмотра политик и процедур безопасности Hugging Face. Наконец, компания сообщила об инциденте в правоохранительные органы.
Использование ИИ для поиска уязвимостей и проведения атак лишь подчеркивает, насколько важно для всех соблюдать лучшие практики безопасности и поддерживать системы в актуальном состоянии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Hill
