По словам представителей Anthropic, до появления у небольших моделей искусственного интеллекта (ИИ) способности к саморепликации на устройствах Интернета вещей (IoT), таких как умные духовки и недорогие Android TV-приставки, могут оставаться считанные месяцы.
Ведущая лаборатория ИИ заявила, что небольшие модели ИИ могут формировать автономные, самораспространяющиеся ботнеты типа «червь», которые «трудно остановить», поскольку «у них нет централизованной точки отключения».
Предыдущие работы продемонстрировали, что ИИ-агенты могут действовать подобным образом, сканируя свою сеть, используя уязвимость и копируя веса модели на целевую машину в кластере GPU с целью генерации индивидуальных стратегий атаки и использования скомпрометированных машин в качестве ботнета для запуска больших языковых моделей (LLM) с целью поддержания своего рассуждения и масштабирования.
«Такой «ИИ-червь» может переносить свои веса модели при воспроизведении (или повторно загружать их из общедоступного хаба), а затем выполнять инференс непосредственно на скомпрометированном оборудовании», — говорится в сообщении Anthropic. «По сути, веса станут частью вредоносного ПО».
Эта идея, в общих чертах, объясняет, как модели ИИ могут потенциально проникать в устройства, подключенные к Интернету, и использовать их вычислительную мощность для собственного запуска и распространения на другие устройства, не полагаясь постоянно на дорогостоящие центры обработки данных. Более мощная модель, слишком большая для одного устройства, может быть разделена на небольшие части и запускаться на нескольких машинах для коллективного выполнения.
Злоумышленник может создать распределенный LLM-ботнет из плохо защищенных устройств IoT, сделав его достаточно мощным для запуска функциональной модели. Некоторые из способов распространения ИИ-червя включают:
В ходе тестирования 11 моделей с открытыми весами от Alibaba, DeepSeek, Google, *Meta MoonShot AI, OpenAI и Zhipu AI (также известной как Z.ai) Anthropic обнаружила, что только модель GLM-5.2 надежно распространила Llama3.1-8B на 8/8 узлов, работающих под управлением эмулятора Android redroid, в 4 из 5 испытаний.
Исследование также показало, что ИИ-червь для IoT на базе недорогих Android TV-приставок может представлять собой «медленную, распределенную» систему, способную обеспечить значительный объем вычислений ИИ при объединении сотен тысяч таких устройств в сеть для запуска механизма инференса.
Альтернативно, он может принять форму мощной кибермодели, способной с высокой скоростью взламывать центры обработки данных, или модели, которая обманывает людей ради вычислительных кредитов.
«У нас пока нет полноценного самовоспроизводящегося вредоносного ПО, но агенты становятся все более способными выполнять отдельные шаги в цепочке репликации (и передавать свои адаптации будущим копиям себя)», — заявили в Anthropic.
«Мы ожидаем, что ИИ-ботнеты будут заражать не только устройства IoT и использовать репликацию на основе весов лишь как одну из стратегий в своем арсенале. ИИ-ботнеты также могут действовать разумно, чтобы противодействовать защитникам, но мы этого пока не тестировали».
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ravie Lakshmanan
