Правительства все чаще заявляют о своем стремлении регулировать рискованные применения искусственного интеллекта, но при этом мало говорят о том, как они будут регулировать собственные инструменты ИИ. Некоторые из самых закрытых структур государства — разведывательные агентства — активно используют ИИ. Мы должны срочно регулировать использование шпионами этой невероятно мощной и потенциально проблематичной технологии. Разведывательные агентства по всему миру используют быстро развивающиеся инструменты ИИ для сбора и обработки большего объема данных о большем количестве людей, чем когда-либо прежде. Что делает использование передовых технологий обработки данных этими агентствами особенно опасным среди различных государственных применений ИИ, так это то, что оно осуществляется втайне. Чтобы пролить свет на эту деятельность, слишком часто приходится прилагать немалые усилия. В Privacy International, где я работаю, нам приходилось неоднократно судиться для обеспечения прозрачности и гарантий защиты от слежки в Великобритании и по всему миру. Нам приходилось заставлять правительства защищать наши права человека. Мы делаем это прямо сейчас в деле о секретных приказах, предположительно выданных Apple, с целью подорвать безопасность их облачного хранилища iCloud. В нашем новом мире быстро развивающихся технологий, каждый раз, когда раскрывается новая, все более навязчивая техника слежки, мы ставим вопрос: какие конкретные гарантии должны были быть применены до того, как правительства завладели новейшими инновациями и превысили свои полномочия?
Массовая слежка
Мы снова находимся в таком моменте. Мы отслеживаем, насколько это возможно, как разведывательные агентства по всему миру используют передовые инструменты ИИ. Например, во время конфликта Anthropic с Министерством обороны США в январе 2026 года Пентагон, по сообщениям, хотел использовать технологию Anthropic для помощи в «сборе и анализе несекретных коммерческих массовых данных об американцах, таких как геолокационные данные и данные о просмотре веб-страниц». Anthropic недавно сообщил, что акторы из Китая, Ирана и Мали использовали их инструменты для массовой слежки и целенаправленных кибератак. Мы знаем, что британские разведывательные агентства имеют возможность использовать передовой ИИ, в том числе через различные контракты с американскими технологическими фирмами, такими как Amazon, которые предоставляют такие инструменты. В наших исследованиях мы задокументировали использование инструментов ИИ, которые, похоже, делают ранее невозможное возможным. Это включает в себя анализ и понимание огромных объемов данных, в том числе результатов массовой слежки. Как совместно заявили бывшие главы MI6 и ЦРУ , инструменты ИИ помогают «выявлять ключевую информацию в море данных». Мы также нашли примеры того, как эти инструменты предположительно помогают правительствам определять человеческие настроения и выявлять отношения, прогнозировать будущую человеческую активность, проводить профилирование и даже определять цели в войне. Ограничение этой деятельности не должно быть таким сложным. Хотя часто говорят, что закон отстает от инноваций, это никогда не должно быть так, когда речь идет о соблюдении прав человека и конституционных гарантий. Правительства обязаны обеспечить только законное использование своих полномочий. Надзорные органы, парламенты и законодательные органы должны привлекать разведывательные агентства к ответственности. Именно так должно работать верховенство права. И все же мы в основном слышим молчание со стороны британского государства. Развертывание этих методов втайне лишает нас, находящихся за пределами агентств, возможности осмысленно участвовать в дебатах о рисках для прав человека, которые несет слежка и сбор разведданных с помощью ИИ. И в этой темноте мы также упускаем возможность учиться на ошибках и злоупотреблениях. В прошлом году The Guardian, +972 Magazine и Local Call сообщили, что израильское агентство военной разведки обучало большую языковую модель, используя миллионы перехваченных ежедневных сообщений палестинцев на Западном Берегу. Bloomberg недавно сообщил, что чрезмерная зависимость от инструментов ИИ могла частично привести к ракетному удару американских войск по школе в Иране, в результате которого погибло 123 ребенка. Этого можно избежать. К счастью, многие страны уже имеют правовые режимы, регулирующие сбор и использование разведданных, с соответствующими надзорными органами. Эти законы необходимо ужесточать, обновлять и укреплять. Надзорные органы должны быть наделены как ресурсами, так и технической экспертизой для борьбы с развивающимся ИИ. Мы все должны участвовать в разговоре о том, насколько могущественным мы хотим видеть государство благодаря использованию ИИ. И мы не можем позволить себе, чтобы этот разговор проходил за закрытыми дверями или чтобы он состоялся слишком поздно. Кэролайн Уилсон Палоу — юридический директор и генеральный советник Privacy InternationalЛорд Брайан Левесон об ИИ, откровенности и следственных полномочиях — Комиссар по следственным полномочиям лорд Левесон беседует с Computer Weekly о проблемах надзора за возможностями слежки в Великобритании, откровенности и влиянии искусственного интеллекта. Наблюдая за наблюдателями: сможет ли Технический консультативный совет противостоять MI5, MI6 и GCHQ? — Дама Маффи Колдер является председателем Технического консультативного совета (TAP), небольшой группы экспертов, которая консультирует Комиссара по следственным полномочиям по вопросам технологий слежки. Есть ли у них все необходимое для надзора за разведывательным сообществом? Следственные полномочия: Руководящие принципы для полиции и шпионов могут также помочь бизнесу с ИИ — Computer Weekly беседует с Маффи Колдер, технологическим советником комиссара по следственным полномочиям Великобритании, о конфиденциальности, вторжении и искусственном интеллекте.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Computerweekly
