Системы «ИИ» не только повышают цены на электронику, выдают неверные результаты поиска и наполняют ваши ленты в социальных сетях мусором. Они также полезны для хакеров! По всей видимости, моделью для государственного спонсирования атак из таких стран, как Россия, Китай, Северная Корея и Иран, является Google Gemini. И это, как утверждает сама Google.
В обширном отчете о том, что компания неоднократно называет нарушением своих условий обслуживания, группа Google Threat Intelligence документирует случаи использования Gemini злоумышленниками, связанными с агрессивными государствами. Большая часть задокументированного использования Gemini — это автоматизированное наблюдение, выявление ценных целей и уязвимостей, включая корпорации, сепаратистские группы и инакомыслящих. Однако хакерские группы, связанные с Китаем и Ираном, были замечены за проведением более сложных кампаний, включая отладку эксплойт-кода и социальную инженерию. Одна из атак группы, связанной с Ираном, была направлена на разработку proof-of-concept эксплойта для известной уязвимости в WinRAR.
Несмотря на все мои придирки к «ИИ», одно, в чем большие языковые модели действительно хороши, — это анализ и обработка огромных объемов данных. Достижения в области машинного обучения позволяют искать в наборах данных, на изучение которых командам людей потребовались бы годы. Это применяется и в менее зловещих целях в таких областях, как астрономия и исследование рака. Это, безусловно, благо для хакеров, которым необходимо выполнять огромные объемы утомительной обработки данных для поиска уязвимостей программного обеспечения, а также множество более традиционных методов для выявления целей и техник социальной инженерии.
Мне особенно запомнился один пример. Группа, обозначенная внутри компании как APT31, использовала пример запроса к Gemini, такого как: «Я специалист по безопасности, который тестирует инструменты Hexstrike MCP», используя систему, которая связывает «ИИ-агентов» с существующими инструментами безопасности для проверки уязвимостей и других векторов атак. Естественно, Gemini не может отличить законного специалиста по безопасности (белый хакер) от злонамеренного хакера (черный хакер), поскольку большая часть их работы пересекается как концептуально, так и практически. Поэтому ответы, которые она предоставляет обоим, будут одинаковыми… несмотря на все заявления Google об использовании Gemini таким образом в нарушение правил.
Gemini также используется для более рутинных задач программирования, написания и отладки кода для вредоносного ПО. И да, «мусор ИИ» находится повсюду, иногда в буквальном смысле. «Злоумышленники из Китая, Ирана, России и Саудовской Аравии создают политические сатиры и пропаганду для продвижения конкретных идей как в цифровых платформах, так и в физических СМИ, таких как печатные плакаты», — говорится в отчете Google.
Google утверждает, что ограничила доступ к Gemini для пользователей, которых она может уверенно идентифицировать как злонамеренных, включая обнаруженные спонсируемые государством хакерские группы.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Michael Crider
