По сообщениям, отчет разведки, сгенерированный искусственным интеллектом, едва не спровоцировал конфронтацию между Соединенными Штатами и Китаем.
Инцидент произошел этой весной, когда США были вовлечены в войну с Ираном. В отчете, переданном американским военным чиновникам, утверждалось, что китайский корабль на Ближнем Востоке перевозил компоненты, связанные с программой ядерного оружия.
Это обвинение немедленно вызвало тревогу.
Силы США начали готовиться к перехвату судна. Вооруженные военнослужащие, по сообщениям, готовились к высадке на корабль, а военные самолеты уже находились в воздухе.
Затем чиновники обнаружили серьезную проблему.
CNN первым сообщил, что источники, знакомые с инцидентом, заявили, что аналитик спецназа использовал чат-бот с искусственным интеллектом при подготовке разведывательного отчета.
Чат-бот неверно интерпретировал информацию из судовой ведомости. Затем он идентифицировал обычные материалы как связанные с программой ядерного оружия.
Полученная разведывательная оценка была позже описана одним из источников как полностью ложная. Другой источник заявил, что ошибка едва не привела к войне.
Потенциальные последствия были серьезными.
Вооруженная высадка на китайское судно могла быстро привести к эскалации. Любая конфронтация с участием американских и китайских военнослужащих могла создать гораздо более крупный международный кризис.
Чиновники, по сообщениям, обнаружили ошибку лишь незадолго до запланированной операции.
Аналитик изучал разведданные о китайском корабле. Информация поступила от Командования специальных операций США на Тихом океане на Гавайях.
Неясно, какая именно система ИИ использовалась. Имеющаяся информация не устанавливает, был ли это коммерческий чат-бот или разработанный правительством инструмент.
По словам источников, ИИ объединил общедоступную информацию с засекреченными радиотехническими разведданными. Затем он пришел к неверному выводу о грузе, указанном на корабле.
Аналитик, по сообщениям, снова использовал ИИ для преобразования полученных данных в стандартный разведывательный отчет. Затем отчет был распространен среди военных чиновников.
Этот эпизод демонстрирует, как быстро ошибка ИИ может распространиться в разведывательном процессе. Ложный вывод может показаться убедительным, когда он представлен в формате официальной оценки.
Инцидент произошел на фоне продолжающегося расширения использования искусственного интеллекта американскими военными.
Военные чиновники рассматривают ИИ как инструмент для более быстрой обработки больших объемов информации. Его потенциальное применение включает анализ разведданных, целеуказание, логистику, бюджетирование и военное планирование.
Министр обороны Пит Хегсет также выступал за более прогрессивное внедрение ИИ в Министерстве обороны.
Стратегия Пентагона направлена на предоставление инструментов ИИ миллионам военнослужащих и гражданских лиц.
Однако системы не обязательно используются в соответствии с единым общим стандартом.
Различные государственные организации могут полагаться на разные платформы ИИ. У них также могут быть разные правила проверки информации, сгенерированной ИИ.
Чиновники признали, что не существует единой системы проверки информации, производимой ИИ.
В другом отчете Global Times бывший декан Исследовательского института индустрии интеллекта SenseTime, Тянь Фэн, заявил, что именно большие модели ИИ часто становятся жертвами галлюцинаций ИИ.
Инцидент с китайским кораблем обнажает опасность этого пробела. На самом деле, системы ИИ могут генерировать ложную информацию, представляя ее с уверенностью. Эти ошибки часто называют галлюцинациями ИИ.
В обычных ситуациях неверный ответ ИИ может просто привести к потере времени. В военных операциях последствия могут быть гораздо более серьезными.
Неточная разведывательная оценка может повлиять на наблюдение, целеуказание или решения, связанные с применением военной силы. Опасность возрастает, когда персонал доверяет выводу, сгенерированному ИИ, без независимой проверки доказательств.
Существуют также опасения по поводу неопытных аналитиков, которые становятся слишком зависимыми от ИИ. Давление, связанное с необходимостью быстрее обрабатывать разведданные, может усилить эту зависимость.
Несколько дней назад Пентагон обвинил шесть китайских компаний, занимающихся ИИ, в копировании моделей. Это вызывает серьезную обеспокоенность у США, поскольку меньшая модель ИИ может изучать представления большей модели. Контроль над чипами будет нарушен, как только он будет обойден.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jose Enrico
