Это кошмарный сценарий, который давно преследовал воображение экспертов по кибербезопасности: компьютерный вредоносный код, который автономно распространяется от устройства к устройству, обучаясь по пути и используя различные уязвимости. Теперь исследователи продемонстрировали, что такой «червь» действительно может быть создан уже сегодня с использованием общедоступных моделей ИИ и при тревожно низкой стоимости.
В предварительной статье, опубликованной во вторник командой из Университета Торонто, Кембриджского университета и других учреждений, описывается «фундаментально новая угроза: червь, который генерирует индивидуальные стратегии атаки для каждой цели, которую он встречает», по словам исследователей. В статье описывается, как команда развернула агент ИИ для выполнения роли червя в контролируемой, изолированной сети, состоящей из устройств Linux, Windows и IoT, а также «с общими уязвимостями корпоративных сетей», такими как повторно используемые пароли. Агент работал на базе неназванной LLM с открытым исходным кодом.
Почему этот червь так опасен
В отличие от традиционного компьютерного вируса, для заражения которого требуется, чтобы человек был обманут, например, открытием файла с вредоносным ПО, черви могут заражать устройства полностью самостоятельно, используя уязвимости безопасности и реплицируя себя по пути. Они распространяются через общее цифровое соединение, такое как сеть Wi-Fi, чтобы найти другие уязвимые устройства, которые можно заразить. И они предшествовали буму LLM: еще в 2017 году червь WannaCry, получивший свое название, предположительно созданный хакерами, поддерживаемыми правительством Северной Кореи, распространился на сотни тысяч устройств в более чем 150 странах. Вредоносное ПО держало зараженные устройства в заложниках, пока их владельцы не заплатили выкуп в Биткоинах.
Фиаско с WannaCry и другие инциденты с червями подчеркнули уязвимости, присущие глобально взаимосвязанной цифровой экосистеме. Но их можно было остановить относительно легко: WannaCry использовал одну уязвимость безопасности, которая была оперативно устранена, что прекратило дальнейшее распространение. Экспериментальный червь команды Университета Торонто, напротив, способен динамически обнаруживать уязвимости безопасности, уникальные для каждого конкретного устройства, которое он заражает, используя таким образом различные тактики для распространения по сети.
Он также паразитически потребляет вычислительную мощность устройств, что, как отмечают исследователи в своей статье, усугубляется тем фактом, что эти устройства теперь создаются с поддержкой ресурсоемких LLM. Другими словами, смартфоны и ноутбуки, созданные для ИИ, являются обильной кормовой базой для такого рода червей. «По мере того как потребительские устройства все чаще поддерживают инференс LLM, доступные таким противникам вычислительные ресурсы соответственно растут», — пишут исследователи в посте в блоге, объясняющем их работу. Это «означает, что каждая машина, подключенная к Интернету, является потенциальной целью — если не из-за данных, которые она хранит, то в качестве плацдарма для следующей атаки».
ИИ-червь движется медленнее традиционных червей, поскольку на каждом этапе своего пути распространения ему необходимо тщательно проверять потенциальные точки входа в следующее устройство; по замечанию исследователей, ему потребовалось около пяти дней, чтобы заразить половину устройств в экспериментальной сети. Однако этот срок сократится по мере того, как устройства станут более эффективными в инференсе, а модели ИИ улучшат свою способность обнаруживать уязвимости безопасности, предупреждают исследователи.
Профессионалы в области кибербезопасности обеспокоены ИИ уже много лет
Статья выходит в тревожный момент для сектора кибербезопасности, который уже пытается осмыслить возможные последствия появления мощных новых систем ИИ, способных обнаруживать и использовать уязвимости безопасности в беспрецедентных масштабах. В апреле компания Anthropic объявила о разработке модели под названием Mythos, которую она постепенно развернула для небольшой группы ранних тестировщиков в рамках испытаний и контроля под названием Project Glasswing. Цель этих усилий — дать сообществу кибербезопасности возможность понять, как такую мощную систему можно использовать для укрепления обороны в большей степени, чем для усиления наступления. OpenAI выпустила собственную модель, обученную обнаруживать уязвимости кибербезопасности, под названием GPT-5.4-Cyber, через несколько недель после запуска Mythos, и также предоставила ее только ограниченной группе ранних тестировщиков.
В том же духе исследователи из Университета Торонто заявили, что опубликовали статью в надежде пробудить мировое сообщество кибербезопасности к новой угрозе. Они также отметили, что заранее проконсультировались с государственными и научными органами для оценки того, как лучше всего обнародовать свои выводы, не давая преимуществ хакерам. Наряду с названием модели с открытым исходным кодом, использованной для питания червя, из опубликованной статьи были исключены и другие ключевые методологические детали.
«Мы поделились достаточным количеством информации, чтобы сделать угрозу достаточно правдоподобной для научного изучения, не предоставляя чертежа, который мог бы привести к злоупотреблению», — написали они.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
