Злоумышленники месяцами крали данные у трех поставщиков ИИ-инференса, и никто из них не знал об этом, пока исследователи не сообщили им, как заявила на этой неделе компания Dragos, специализирующаяся на промышленной кибербезопасности. Некоторые из украденных запросов были помечены как «Zero Data Retention» (нулевое хранение данных) — настройка, которая должна означать, что запрос никогда не сохраняется. OpenRouter, шлюз, который направляет запросы клиентов к пулу сторонних поставщиков, сообщил сегодня, что удалил трех поставщиков со своей платформы, исключил 125 конечных точек из списка тех, что поддерживают нулевое хранение данных, и уведомил всех потенциально затронутых клиентов. По данным компании, взлома самого OpenRouter не обнаружено. Самая ранняя из трех утечек началась в середине июля. Внедренные запросы были приманкой, но они обрабатывались вместе с реальными клиентскими запросами, которые почти наверняка также были скопированы. Об этом говорится в сообщении компании. Эти выводы сделаны на основе исследования canary token, в рамках которого с июля по ноябрь было отправлено около двух миллионов запросов с уникальными веб-ссылками и учетными данными, а затем отслеживалось любое их использование. Секретный токен можно обнаружить только в одном месте, поэтому любое его использование означает, что кто-то прочитал запрос, содержащий его. Крупнейшая из трех утечек включала несколько сотен ключей AWS, которые были внедрены, каждый отправлен ровно в одном запросе к одному поставщику в течение нескольких коротких периодов в конце октября. Каждый запрос, отправленный в эти периоды, был украден, причем некоторые из них поступали из запросов, которые поставщик отклонил до запуска модели, что указывает на то, что злоумышленник копировал трафик в точке первого получения, а не глубже в стеке инференса. В некоторых случаях вор тестировал ключи в течение нескольких часов, перечислял бакеты S3, искал в Secrets Manager и Parameter Store, а также пытался создать ключи API Bedrock и добавить пользователей IAM для сохранения доступа, генерируя десятки тысяч вызовов API AWS. Похоже, один злоумышленник одновременно скомпрометировал двух поставщиков, используя секреты обоих с одного арендованного сервера. 1 ноября тот же злоумышленник использовал ARTEX, фреймворк для тестирования на проникновение на основе ИИ, и применял его только для подтверждения того, что уже имеющиеся у него ключи все еще действительны. Два его пользовательских агента, artex-agent и artex-judge-r121, не фигурируют ни в одном общедоступном списке индикаторов, который удалось найти фирме, и их стоит добавить в системы обнаружения. «Флаг конфиденциальности бесполезен, когда злоумышленник уже внутри», — написал Х. Д. Мур, главный специалист по исследованиям фирмы. Второй вывод не требовал взлома. Продавцы на рынке ИИ-инференса выставляли модели по самым низким ценам, включали журналирование запросов и собирали все, что проходило через них, как показало исследование. Люди, занимавшиеся этим, выглядели как частные лица, использующие домашние интернет-соединения. Один из них, работая с Mac на домашнем широкополосном доступе во Франции, извлек пароли из двух запросов и вручную ввел попытки входа по SSH, а затем использовал ту же машину для тестирования нескольких внедренных ключей AWS. Один из этих ключей прошел через другой маршрутизатор, который незаметно перенаправлял часть трафика на торговую площадку — переход, о котором ни один клиент не был уведомлен. Этот маршрутизатор с тех пор сообщил фирме, что он прекратил такую деятельность, а трассировка маршрутов по примерно 2000 путям выявила несколько сотен неопознанных систем, а также одного продавца, который незаметно добавляет около 1000 скрытых токенов к каждому запросу. Китайская ИИ-лаборатория, которую исследователи не называют, извлекла секретные ссылки из более чем половины отправленных ее моделям запросов с июля по октябрь, включая около двух третей запросов с пометкой «нет сбора данных» или «Zero Data Retention». Запросы, отправленные американским хостинг-провайдерам, которые перепродают модели лаборатории, вызвали тот же скрейпер, тем самым возвращаясь в лабораторию. Клиент Git на другом облачном сервисе позже пытался клонировать частные репозитории, упомянутые в запросах, но только для моделей этой лаборатории, а один крупный американский провайдер продолжал сканировать секретную ссылку более чем через два месяца после одного запроса к его поисковому конечной точке. Через двадцать четыре дня после отправки одного запроса его секретная ссылка была опубликована в чате Feishu, китайском рабочем приложении, известном как Lark в других странах. Ссылка была открыта в течение двух минут с трех настольных компьютеров и трех телефонов в Пекине и Шанхае. Фирма раскрыла только первые 8 символов ссылки поставщика, поэтому тот, кто ее опубликовал, читал кэшированную копию полного запроса. На практике, писал Мур, помеченные запросы сохранялись, передавались другим компаниям и читались людьми. OpenRouter в объявлении об инциденте сообщил, что 125 конечных точек, исключенных из списка для нулевого хранения данных, включают поставщиков, отмеченных исследователями, а также других, исключенных в качестве меры предосторожности. Любая конечная точка, исключенная во время проверки, потребует гарантий и проверки, прежде чем ее статус будет восстановлен. Шлюз адаптирует подход исследователей к тестированию, чтобы проверки могли проводиться на постоянной основе, и проверяет сетевые пути для выявления того, куда запросы и ответы могут быть перенаправлены третьим сторонам. Исследователи в настоящее время работают примерно с дюжиной поставщиков, и внедренные ключи и секретные ссылки по-прежнему использовались спустя месяцы после первых краж, по состоянию на эту неделю. Railway, платформенная компания, заявила в октябре, что вторжение, которое она пережила, вероятно, было частью серии атак, направленных на платформенные компании с конечной целью компрометации поставщиков ИИ-инференса. Не все затронутые поставщики опубликовали информацию публично, сообщил шлюз, и он уведомил затронутых пользователей в любом случае. Три из них опубликовали информацию. Злоумышленник взял под контроль сервер инференса в Phala и мог просматривать данные запросов во время их обработки, сообщила компания в предварительном отчете об инциденте на прошлой неделе. Инцидент был локализован 8 ноября, и служба моделей была восстановлена с дополнительными мерами защиты. Запросы к модели DeepSeek V4 Flash 0731, которые поступали в Phala через шлюз в период с 21 октября 00:00 UTC по 8 ноября 05:35 UTC, должны считаться раскрытыми, говорится в отчете, и каждый ключ, токен, пароль или другой секрет в них должен быть изменен. Сторонний исследователь размещал уникальные учетные данные canary в запросах с 1 июля, и только те, которые были отправлены 21 и 22 октября, были впоследствии использованы не по назначению. Эти тесты отбирали образцы трафика, а не отслеживали каждый запрос, поэтому поставщик сохраняет более широкий превентивный период. В Together AI неуполномоченное лицо загрузило сохраненные образцы запросов клиентов после того, как ИИ-агент по написанию кода зафиксировал учетные данные в общедоступном репозитории GitHub компании, сообщила компания вчера в уведомлении о безопасности. Образцы были собраны для обычного тестирования программного обеспечения и были сгенерированы запросами к моделям MiniMax M3, GLM-5.2 и Kimi K2.6 в июне и июле. Сторона искала в образцах учетные данные для других служб и тестировала их, и пять из протестированных учетных данных были canary из эксперимента исследователей. Компания заявила, что не имеет оснований полагать, что данные ушли дальше, понимает, что они были удалены, и установила нулевое хранение данных по умолчанию для новых учетных записей. Novita, еще один поставщик на шлюзе, подтвердила на этой неделе в уведомлении о конфиденциальности, что проблема конфигурации маршрутизации привела к тому, что некоторые запросы MiniMax были отправлены на официальный API MiniMax, помимо того, что было предусмотрено для этих клиентов. Dragos не назвала три скомпрометированных поставщика, OpenRouter не назвал трех, которых он удалил, и ни один из них публично не сообщил, являются ли они одними и теми же тремя. Поставщик, стоявший за утечкой в середине июля, сначала обвинил внутреннюю неправильную конфигурацию, затем обработку данных партнером, прежде чем собственное расследование обнаружило, что злоумышленники скомпрометировали его внутренние учетные данные, сообщили исследователи. На этой неделе он все еще не раскрыл инцидент публично. Совет исследователей начинается с одного ограничения: флаг конфиденциальности связывает только первый узел, писал Мур, а ИИ-агенты будут отправлять все, что смогут прочитать, включая учетные данные. Куда идет запрос — это выбор, писал он, а клиент, который не делает выбора, передает его по самой низкой цене. Самостоятельный хостинг — единственный вариант, при котором ни одна третья сторона не читает запрос, а прямой переход к поставщику первого уровня оставляет одну компанию, один контракт и одну политику конфиденциальности для проверки. Маршрутизаторы требуют большего внимания: выбирайте вышестоящих поставщиков самостоятельно, вместо того чтобы принимать пул по умолчанию, проверяйте, что настройки конфиденциальности действительно меняют направление запросов, и избегайте торговых площадок реселлеров, часть мощностей которых работает на украденных ключах. Поддельный учетный данные, внедренный в контекст, который уже отправляют агенты и конвейеры, служит триггером, если любое его использование рассматривается как инцидент, и бесплатного Thinkst Canarytoken достаточно для начала. Настройки, которые очищают известные форматы учетных данных из запросов, также помогают, хотя они упускают конфиденциальные данные, которые не имеют формата ключа.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Swati Khandelwal




