Армия США, как сообщается, разрабатывает программу развертывания автономных ИИ-агентов, способных перемещаться по цифровым и сетевым инфраструктурам, выявлять цели и «нейтрализовывать» их. Согласно отчету The Intercept от 19 октября, в котором цитируются утекшие официальные документы Армейского киберкомандования (ARCYBER), новая программа под кодовым названием «ECHOTRIBBLE» в первую очередь ориентирована на наступательные миссии, направленные на нейтрализацию целей путем «полного или временного отключения угрозы, удаления угрозы с цели».
Программа, по-видимому, нацелена на разработку модульных автономных ИИ-агентов, которые будут функционировать как компьютерные черви, незаметно перемещаясь по сетям противника, переходя между устройствами и самореплицируясь в разных операционных системах. Агенты будут работать в условиях конкуренции в облачных средах и системах air-gapped, сводя к минимуму отчеты и скрывая любые необходимые передачи данных. Как только агент выявит и нейтрализует цель, он самоуничтожится, в идеале не предупредив цель и не оставив следов своего существования.
Эксперты по кибербезопасности выразили обеспокоенность по поводу безопасности проекта. Недавняя череда событий показала, как ИИ-агенты покидают свою среду и автономно выполняют незапланированные задачи. В документе говорится, что армия внедрит «предопределенные триггеры», чтобы помочь агентам точно различать цели. Однако эксперты опасаются, что если агенты, предназначенные для безвредных задач, могли выполнять незапланированные, иногда опасные действия для их достижения, то чего ожидать от самореплицирующихся агентов, созданных специально для наступательных миссий? Эксперименты Anthropic показали, что ИИ-агенты могут настраивать вывод на разном оборудовании и реплицироваться через сеть.
Армия также хочет, чтобы агенты были способны на «самонаправляемое поведение», действуя с минимальным контролем человека, поскольку это необходимо для достижения желаемого уровня автономии. В то же время такой уровень автономии приводил к тому, что ИИ-агенты обходили предохранительные ограничения для выполнения задач. Правительственные разведывательные органы также известны тем, что проникают в сети целей через гражданскую инфраструктуру. «Цель может быть поражена. Но какой путь будет выбран? — задается вопросом Хайрум Андерсон, сооснователь и генеральный директор компании в сфере ИИ-безопасности Abundant, как цитирует The Intercept. — Пройдет ли он через американский водоканал по пути, потому что там противник развернул свое управление и контроль, и выведет ли его из строя?»
Еще одним аспектом беспокойства является то, как агенты будут принимать суждения. Хотя ИИ-агенты отлично справляются с преодолением препятствий на пути, невозможно со 100-процентной точностью предсказать, что они сочтут препятствиями или какой путь выберут для их преодоления. «Одна из причин, по которой мы доверяем 19-летним морским пехотинцам в Рамади с боевыми патронами и оружием, заключается в том, что у них есть как вычислительный субстрат — мозг и глаза, — так и глубокие знания мира, чтобы понимать: “Да, мне, вероятно, не следует этого делать”», — сказал Уильям Марчеллино, старший научный сотрудник-бихевиорист корпорации RAND, изучающий военное применение ИИ. «Текущие общедоступные технологии ИИ этим не обладают».
Программа ECHOTRIBBLE находится на ранней стадии прототипирования и отраслевой оценки, ею руководят ARCYBER, Армейский центр кибертехнологий и инноваций (ArCTIC) и Центр кибер-фьюжн и инноваций (CFIC), при этом частные поставщики и академические исследователи предлагают и разрабатывают программное обеспечение. ARCYBER и ArCTIC диктуют операционные требования и правила ведения боя, а CFIC, некоммерческая оборонная организация, выступает посредником между армией и коммерческими технологическими компаниями. Армия недавно провела виртуальное оценочное мероприятие с 6 по 8 октября 2026 года, на котором оценила 65 технических документов, поданных частными поставщиками с предложениями по агентной структуре, и сократила их до пяти. Финальный кандидат (или кандидаты) получит финансирование и формальные прототипные контракты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Etiido Uko
