Документы раскрывают военный план по созданию ИИ-агентов для взлома противников США

ии пентагон Echotribble кибербезопасность автономные системы gizmodo.com

Пентагон разрабатывает ИИ-фреймворк ECHOTRIBBLE для нейтрализации угроз. Узнайте о его возможностях и рисках.

Документы, на которые обратило внимание издание The Intercept, по всей видимости, раскрывают амбиции Пентагона по разработке фреймворка для автономных ИИ-агентов под названием ECHOTRIBBLE, предназначенного для «навигации по инфраструктуре, выявления и нейтрализации угроз».

Судя по этим документам, которые, очевидно, распространялись среди поставщиков и для них, Командование сухопутных войск США ищет помощи у частного сектора в попытках вооружить ИИ, хотя пока совершенно неясно, удалось ли им получить какие-либо инструменты для взлома на базе ИИ, и Киберкомандование не ответило на запрос The Intercept о комментарии.

Как свидетельствуют общедоступные документы об ECHOTRIBBLE, доступные на веб-сайте оборонной некоммерческой организации Cyber Fusion Innovation Center (CFIC), эта программа не является какой-то сверхсекретной инициативой DARPA. По данным CFIC, ранее в этом месяце состоялось «полностью виртуальное мероприятие по оценке инициативы Agentic C2 Framework Tool (ECHOTRIBBLE)». Было подготовлено 65 белых книг, пять из которых должны были быть представлены и оценены так называемой Оценочной группой.

Еще в январе министр обороны Пит Хегсет четко дал понять, что он имел в виду нечто подобное. «Мы будем стимулировать эксперименты, устранять бюрократические барьеры, фокусировать наши инвестиции и демонстрировать подход к реализации, необходимый для обеспечения нашего лидерства в области военного ИИ», — заявил Хегсет, согласно пресс-релизу Пентагона. Он добавил: «Мы станем боевой силой, ориентированной на ИИ, во всех сферах».

Сэм Биддл из The Intercept описывает предполагаемое видение еще зарождающегося ECHOTRIBBLE как нечто «почти похожее на компьютерный червь, который бесшумно перемещается по чужой сети и перескакивает с устройства на устройство, пока не найдет цель армии, поражая цели как в облаке, так и в «воздушно-изолированных» системах, полностью отключенных от сетей».

Даже современные ИИ-агенты способны работать в скоординированных роях для выполнения, по сути, взломов, хотя, к счастью, случаи, подобные инциденту с Hugging Face, не привели к серьезному ущербу. В целом, урок, извлеченный из историй о безопасности ИИ прошлым летом, заключался в том, что ИИ-агенты с возможностями взлома не всегда действуют по причинам, которые сразу понятны наблюдателям-людям. «Сбойные агенты» больше похожи на сбои в сложных системах, чем на Терминаторов, пробуждающихся с жаждой человеческой крови.
Но это тоже довольно страшно. Как сказал The Intercept профессор машинного обучения Университета Монреаля Дэвид Крюгер: «Учитывая известные сбои в работе текущей парадигмы ИИ, создание автономных систем ИИ с мандатом на «нейтрализацию угроз» невероятно опасно».

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: