Исследователи в области кибербезопасности заявили, что обнаружили первую вредоносную программу для Android, использующую генеративный ИИ для повышения своей эффективности после установки. Однако это может быть всего лишь концепция.
ESET назвала ее PromptSpy — вредоносное ПО, основная цель которого — развернуть модуль VNC, дающий хакерам удаленный контроль над зараженными устройствами.
Эксперты словацкой компании ESET сообщили, что PromptSpy обладает возможностями для подачи команд чат-боту Gemini от Google с использованием запросов на естественном языке для интерпретации частей пользовательского интерфейса устройства.
Эти запросы позволяют вредоносному ПО анализировать пользовательский интерфейс, что затем определяет необходимые действия, которые нужно выполнить на устройстве, чтобы закрепить вредоносное приложение в списке недавних приложений.
Лукаш Стефанко, исследователь вредоносного ПО в ESET, отметил, что использование GenAI составляет лишь небольшую часть инструментария вредоносного ПО, но позволяет ему адаптироваться к различным устройствам.
«Модель ИИ и запрос предопределены в коде и не могут быть изменены», — написал он. «Поскольку вредоносное ПО для Android часто полагается на навигацию по пользовательскому интерфейсу, использование генеративного ИИ позволяет злоумышленникам адаптироваться к практически любому устройству, раскладке или версии ОС, что может значительно расширить круг потенциальных жертв».
Вредоносное ПО для Android обычно полагается на нажатия, координаты и селекторы пользовательского интерфейса для выполнения задач, но эти методы имеют тенденцию выходить из строя при работе на разных устройствах, что делает использование Gemini элегантным способом обойти эту распространенную проблему.
PromptSpy отправляет запрос на естественном языке в Gemini вместе с XML-дампом текущего экрана устройства, а чат-бот возвращает JSON-инструкции о том, какое действие и где выполнить, чтобы приложение оставалось в списке недавних. Этот процесс повторяется до тех пор, пока Gemini не сообщит PromptSpy, что приложение находится в нужном положении.
ESET обнаружила версии PromptSpy, загруженные в VirusTotal в январе, причем варианты с поддержкой Gemini были отправлены из Аргентины.
Анализ кода приложения предполагает, что оно было разработано носителями китайского языка для помощи киберпреступникам, мотивированным финансово.
Стефанко сообщил, что PromptSpy еще не фигурировало ни в одном из данных телеметрии ESET, что указывает на то, что оно остается концепцией. Однако команда обнаружила то, что похоже на домен распространения, что может свидетельствовать о его использовании для поддержки реальных атак.
Домены, которые исследовала ESET, теперь неактивны, но кэшированные версии показали, что они, вероятно, пытались имитировать веб-сайт Chase Bank.
PromptSpy отсутствует в Google Play Store, и, учитывая недавнее ограничение Google на установку приложений из сторонних источников, неясно, как злоумышленники планировали загружать приложение на устройства.
После установки приложение может перехватывать PIN-коды или пароли с экрана блокировки, записывать экран разблокировки по шаблону в виде видео, записывать экран и жесты пользователя, а также делать скриншоты в дополнение к взаимодействию с Gemini.
Оно также препятствует удалению приложения пользователем или принудительному завершению его работы, размещая прозрачные поля поверх элементов экрана.
Поля невидимы для пользователя, который нажимает на местоположение кнопки на экране, но ничего не происходит. Единственный способ удалить его — перезагрузить устройство в безопасном режиме, где сторонние приложения заблокированы, а затем пройти обычную процедуру удаления.
«PromptSpy показывает, что вредоносное ПО для Android начинает развиваться зловещим образом», — сказал Стефанко. «Полагаясь на генеративный ИИ для интерпретации экранных элементов и принятия решений о том, как с ними взаимодействовать, вредоносное ПО может адаптироваться практически к любому устройству, размеру экрана или раскладке пользовательского интерфейса, с которым оно сталкивается.
«В более широком смысле эта кампания демонстрирует, как генеративный ИИ может сделать вредоносное ПО гораздо более динамичным и способным принимать решения в режиме реального времени. PromptSpy — это ранний пример вредоносного ПО для Android на базе генеративного ИИ, и он иллюстрирует, как быстро злоумышленники начинают злоупотреблять инструментами ИИ для повышения эффективности».
Это открытие последовало за работой ESET по обнаружению PromptLock, которое, по их словам, является первым вредоносным ПО-вымогателем на базе ИИ.
Как сообщалось в интервью The Register, разработчики загрузили код PromptLock в VirusTotal, чтобы проверить, сможет ли он обойти современные защитные механизмы.
Команда инженеров из Нью-Йоркского университета разработала код в рамках исследовательского проекта, надеясь получить приглашение выступить на конференциях по безопасности. Бинарный файл некоторое время находился в VirusTotal, прежде чем его обнаружила ESET.
Сбитые с толку, когда после публикации в блоге ESET с описанием PromptLock появились новостные сообщения, студенты из Нью-Йоркского университета связались со словацкой компанией, чтобы сообщить, что вредоносное ПО было всего лишь концепцией.
Мд Рази, один из студентов и аспирантов, стоявший за PromptLock, «не мог поверить своим глазам», когда понял, что люди пишут о его работе.
Получив сообщение от Рази и других, ESET обновила пост в X, отметив, что их находка была всего лишь исследовательским проектом, который не мог функционировать вне лаборатории.
«Это подтверждает нашу уверенность в том, что это была концепция, а не полностью функционирующее вредоносное ПО, развернутое в дикой природе», — заявили в компании. «Тем не менее, наши выводы остаются верными — обнаруженные образцы представляют собой первый известный случай программы-вымогателя на базе ИИ». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Connor Jones
