Предприятиям, которые обратились к ИИ для усиления своих мер безопасности, возможно, придется пересмотреть свой подход.
Вредоносное ПО, содержащее код, который предписывает продуктам с поддержкой больших языковых моделей (LLM) прервать анализ или отказаться от его выполнения, уже циркулирует, сообщает компания по кибербезопасности SentinelLabs.
SentinelLabs полагает, что знает, кто несет ответственность за вредоносное ПО, атакующее системы MacOS. «XProtect от Apple обнаруживает образец по правилу MACOS_BONZAI_COBUCH, а SentinelLabs связывает семейство сигнатур BONZAI с деятельностью северокорейских угроз», — пишет компания.
Она назвала вредоносное ПО macOS.Gaslight.
Это не первый пример вредоносного ПО, специально нацеленного на анализ, сгенерированный ИИ. Как отметила SentinelLabs, компания Checkpoint впервые задокументировала такой подход ровно год назад. Socket последовала этому примеру, опубликовав отчет о полезной нагрузке, которая также использовала код для обхода обнаружения моделями ИИ.
Это новое поколение угроз упоминалось в отчете OPSWAT «Состояние безопасности файлов», и эксперты по кибербезопасности предупреждают, что защита на базе ИИ не всегда является решением.
SentinelLabs, безусловно, согласна с этой точкой зрения. «По мере того как анализ с поддержкой LLM становится рутинным, защитникам следует ожидать появления большего числа образцов, созданных для его эксплуатации», — говорится в сообщении.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Maxwell Cooter
