Artex ии кибератаки безопасность фбр Amazon theregister.com

Злоумышленники используют фреймворк для тестирования на проникновение с открытым исходным кодом ARTEX для автоматизации атак на банки, правительства, энергетические и медицинские учреждения, а также другие критически важные сектора по всему миру, согласно предупреждениям ФБР и Amazon Threat Intelligence.

В период с 3 октября по 5 ноября датчики угроз Amazon MadPot обнаружили две кампании ARTEX: одна позволила похитителям красть учетные данные ИИ в «промышленных масштабах» для получения бесплатного доступа к моделям, а вторая — генерировать дипфейк-видео для обмана проверок личности в реальном времени.

В первой кампании злоумышленники использовали ИИ-агентов для кражи ключей API, а затем передавали эти ключи в шлюз моделей фреймворка ARTEX для питания других агентов, ищущих больше ключей доступа к моделям ИИ. 

«Агенты проверяли подлинность через сервисы токенов и идентификации каждого поставщика, перечисляли хранилища, оценивали область разрешений и нацеливались на управляемые сервисы моделей ИИ, хранилища секретов и параметров, а также идентификаторы приложений», — написал в своем блоге в пятницу главный специалист по информационной безопасности AWS Си Джей Мозес.

Среди целей были шлюзы LLM и прокси-платформы, такие как One API, New API, Veloera, Sub2API и LiteLLM, а также конструкторы ИИ-приложений Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat и Ollama.

Эта кампания также использовала облачные учетные данные для получения украденного доступа к моделям.

Во второй кампании злоумышленники использовали ARTEX для создания видеороликов в реальном времени с использованием дипфейков, чтобы обмануть проверки личности (KYC) на двух криптовалютных биржах, и подделывали фотографии удостоверений личности для прохождения проверок документов.

«Агенты детально реверс-инжиниринговали протокол жизнеспособности одного из поставщиков, документируя поток событий обнаружения лиц, который он отправляет, как он отслеживает положение лица во время проверки и систему координат, которую он использует, чтобы указать пользователю, куда двигаться», — написал Мозес.

Агентам удалось выполнить полную последовательность движений с позиционированием лица в пределах 7 пикселей от цели, но этого оказалось недостаточно, поскольку серверная оценка поставщика отклонила дипфейк при каждой попытке.

В отдельной сессии агенты создали конвейер для создания дипфейк-видео в реальном времени на одном потребительском GPU с использованием модели анимации лиц с открытым исходным кодом. Это видео достигало 11,5 кадров в секунду, что, по словам Мозеса, «близко к тому, что ожидается при проверке видео в реальном времени».

Тем временем агенты также работали над проверками удостоверений личности, создавая синтетические метаданные камеры, размеры изображения которых соответствовали реальным значениям в файле JPEG, и сохраняя исходные таблицы сжатия камеры, которые обычно заменяются при повторном сохранении отредактированного изображения.

Хотя конечной целью было хищение криптовалюты, кампания демонстрирует, как ARTEX одновременно запускает несколько сессий, с множеством агентов, работающих над достижением одного и того же результата. «Один искал способы обналичить средства, другой работал над очисткой балансов счетов, третий настраивал конвейер для создания дипфейк-видео, а четвертый осуществлял обход проверки», — написал Мозес.

Ни одна из техник атак не является новой, но обе эти кампании показывают, как ИИ-агенты могут повысить скорость и настойчивость злоумышленника. 

«Агенты добились успеха там, где отсутствовали базовые меры безопасности, включая учетные данные по умолчанию или жестко закодированные, ключи, оставленные в коде и общедоступных артефактах, неаутентифицированные интерфейсы и конечные точки вывода, а также непропатченное программное обеспечение», — добавил Мозес. «Правильное соблюдение этих основ остается самой эффективной защитой».

ФБР высказывается

ФБР также подчеркнуло это сообщение в отдельном пятничном предупреждении, отметив, что «ARTEX значительно сокращает время, необходимое для цепочки атакующих техник, при этом некоторые вторжения прогрессируют от первоначального нацеливания до привилегированного доступа менее чем за три часа».

Федеральные правоохранители сослались на августовские атаки на южнокорейские финансовые учреждения, в результате которых были украдены личные данные около 67 000 человек. ФБР также выделило сентябрьскую кампанию ARTEX, нацеленную на клиентов ConnectWise Cloud Backup в рамках атаки на цепочку поставок, которая в конечном итоге скомпрометировала более 2250 нижестоящих клиентов Microsoft.

После того как эти нарушения безопасности стали достоянием общественности, первоначальный разработчик ARTEX удалил репозиторий GitHub в октябре.

Однако форки и локализованные варианты, а также коммерческая версия остаются, и по состоянию на 4 ноября служба интернет-сканирования Censys выявила 1465 хостов, на которых работает открытая консоль ARTEX. И общее количество развертываний «вероятно, значительно выше, если включить системы за брандмауэрами или в частных сетях», согласно ФБР.

Федеральные власти призвали все организации — особенно те, которые управляют приложениями, доступными из Интернета, порталами самообслуживания, облачной инфраструктурой, а также системами партнеров или поставщиков — принять ряд мер по смягчению последствий, изложенных в их предупреждении Flash.

К ним относятся сокращение внешних поверхностей атаки путем ограничения конфиденциальных услуг доверенными сетями, частными подключениями или выделенными административными путями, а также размещение корпоративных приложений за политиками и разрешениями доступа с нулевым доверием. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.