Как выяснилось, первой целью агентов OpenAI стал не Hugging Face в июле, а RubyGems еще 11 мая, согласно новому отчету, расследовавшему этот инцидент. В ходе атаки агенты пытались украсть API-ключи пользователей RubyGems, используя ранее неизвестную уязвимость на сервере RubyGems (успели ли они, неизвестно), и злоупотребили RubyDoc.info для выполнения произвольного кода.
Исследователи утверждают, что это была злонамеренная атака со стороны OpenAI, на что указывает ряд фактов. Сотни пакетов содержали “oai” в именах файлов, несколько пакетов использовали “oai” в качестве автора, один пакет имел openaixyz65947@gmail.com в качестве контактного лица, агенты использовали вредоносные имена файлов, такие как hack.rb и exploit.rb, некоторые пакеты назывались hacksvn и pwnp999, а в комментариях упоминались “злонамеренный зонд” и #hack.
Комментируя инцидент, OpenAI заявила: “По результатам нашего анализа, наши агенты использовали платформу RubyGems для доступа в Интернет с целью выполнения неопасных задач и получения общедоступной информации. Мы продолжим расследование в рамках нашего более широкого анализа активности агентов во время обучения и оценки”.
Для справки, RubyGems — это менеджер пакетов для языка программирования Ruby, который предоставляет разработчикам средства для распространения, установки и управления многократно используемыми библиотеками и приложениями, называемыми “джемами”. Если вы знакомы с npm для JavaScript, PyPI или pip для Python, или creates.io или Cargo для Rust, то это, по сути, то же самое.
В ходе расследования, проведенного Спенсером Киттсом, Томасом Ларсеном и Сидни фон Арксом на rubyhack.ai, основанного на общедоступных пакетах RubyGems, загруженных агентами, атаки агентов, по-видимому, продолжались с мая по июнь 2026 года. В рамках кампании, также известной как кампания GemStuffer, агенты загрузили 2000 пакетов на RubyGems 11-12 мая. В ответ RubyGems отключил регистрацию новых пользователей на четыре дня. Агенты также загрузили еще 83 пакета 18 июня и воспользовались ошибкой кэширования CDN, которая затронула 18% старых входов в систему.
Этот инцидент — лишь еще один случай, подтверждающий растущие опасения по поводу безопасности и согласованности автономных агентов. Он также подчеркивает тот факт, что сервисы, подобные RubyGems, должны укреплять свою безопасность, чтобы предотвратить подобные инциденты в будущем, поскольку некоторые злоумышленники могут намеренно проводить такие атаки, и они должны быть к ним готовы.
Агенты OpenAI использовали механизм обработки пользовательских файлов .yardopts в RubyDoc.info для получения удаленного выполнения кода на серверах сборки. Затем они собрали общедоступные данные местных органов власти Великобритании и попытались выполнить запросы к конечным точкам /api/v1/api_key. Неясно, зачем они собирали эти данные, поскольку они и так общедоступны.
RubyGems отразил натиск, исправив обход подтверждения по электронной почте, отключив регистрацию с использованием одноразовых адресов электронной почты 16 мая и удалив более 500 вредоносных пакетов. Неясно, что было сделано с оставшимися 1500 загруженными пакетами. Разработчики пакетов должны сменить API-ключи и проверить последние журналы пакетов, чтобы убедиться, что их пакет не был затронут этой атакой.
Другие организации должны предпринять аналогичные действия, такие как отключение регистрации с использованием одноразовых адресов электронной почты, поскольку это затруднит атаки агентов на их системы в будущем, так как эта проблема, вероятно, сохранится, если компании, занимающиеся ИИ, не смогут активизировать свои усилия по согласованию.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Hill
