Этот эпизод — первое реальное испытание того, сможет ли правительство США использовать экспортный контроль для сдерживания передового ИИ так же, как оно пыталось (с весьма неоднозначными результатами) сдерживать шифрование и шпионское ПО до этого. И как бы драматично это ни звучало, то, как разрешится это противостояние, может определить не только доступ Anthropic на зарубежные рынки, но и свод правил, вокруг которого придется строить работу другим лабораториям ИИ.
Сначала немного контекста. С момента запуска Mythos в апреле компания Anthropic позиционировала его как некую кибермашину Судного дня, способную вызвать хаос в интернете в случае слишком широкого распространения, — именно поэтому до введения запрета доступ к нему имели лишь около 150 проверенных компаний и государственных организаций. Цель состояла в том, чтобы помочь защитникам обезопасить свое программное обеспечение и сервисы до того, как злоумышленники получат возможности уровня Mythos.
Что же спровоцировало запрет? По сообщениям, два последующих события. Первое: Anthropic предоставила доступ к Mythos южнокорейскому телекоммуникационному оператору в рамках своей программы для ограниченных партнеров, и американские чиновники встревожились, идентифицировав компанию как ту, которая, по их подозрениям, имела связи с Китаем. (Компания, широко сообщалось, что это SK Telecom, отрицала любую связь с Китаем.) Генеральный директор Amazon Энди Джесси также, по сообщениям, предупредил администрацию после того, как собственные исследователи Amazon, по его словам, нашли способ обойти меры безопасности Fable 5. Anthropic оспаривает ярлык «джейлбрейк», называя это узкой, уже исправленной проблемой, а не полным провалом мер безопасности модели.
Результат был одинаковым: Министерство торговли выпустило директиву об экспортном контроле, и Anthropic пришлось в спешке немедленно ограничить доступ к своей продукции примерно в течение 90 минут после уведомления, по некоторым данным.
Однако ничего из этого не ново. Правительства десятилетиями пытались использовать экспортный контроль для ограничения распространения того, что они считают опасными кибертехнологиями, но их послужной список в лучшем случае был посредственным.
Правительство США стояло за, возможно, самым впечатляющим провалом этого подхода в истории в начале-середине 1990-х годов. В то время ученые-компьютерщики разрабатывали технологии шифрования для защиты данных при их передаче через интернет. Одним из таких продуктов шифрования была Pretty Good Privacy, или PGP, популярная программа, которая могла шифровать данные и делать их практически невозможными для расшифровки, даже если они перехватывались по пути к предполагаемому получателю через интернет.
Правительство США изначально рассматривало PGP как опасное оружие, опасаясь, что оно помешает его разведывательным службам прослушивать электронные письма, проходящие по их каналам. Чтобы остановить распространение PGP, Таможенная служба США возбудила уголовное расследование в отношении создателя PGP Фила Циммермана за якобы нарушение контроля за экспортом оружия. Он дал отпор, опубликовав исходный код PGP в виде печатной книги, что положило начало тому, что сегодня известно как «Войны за криптографию».
Циммерман позже выиграл ключевую битву, когда расследование было закрыто, что открыло путь для важнейших алгоритмов сквозного шифрования, таких как тот, который используется миллиардами пользователей Signal и WhatsApp*.
Позже, в начале 2010-х годов, исследователи начали обнаруживать шпионское ПО западного производства, используемое против диссидентов на Ближнем Востоке. В ответ несколько правительств согласились расширить Вассенаарские договоренности — международный договор, ограничивающий экспорт программного обеспечения и технологий двойного назначения, используемых как в гражданских, так и в военных целях.
Идея заключалась в том, чтобы классифицировать программное обеспечение для наблюдения и взлома как двойного назначения, тем самым вынуждая создателей шпионского ПО получать экспортные лицензии для продажи своей продукции за рубежом.
Но у Вассенаарских договоренностей всегда было два присущих недостатка. Есть несколько стран, которые не придерживаются соглашения, включая Израиль, где базируются одни из самых активных в мире разработчиков шпионского ПО.
Соглашение также зависит от того, как страны применяют его к компаниям на своей территории, по своему усмотрению. В течение некоторого времени правительство Италии разрешало одному из ведущих на тот момент разработчиков шпионского ПО в стране, Hacking Team, лицензию на экспорт своих инструментов по всему миру, несмотря на послужной список компании по продаже шпионского ПО репрессивнымправительствам, которые использовали его для взлома журналистов и правозащитников.
С тех пор другиестраны в Европе проявляли небрежность в отношении разработчиков шпионского ПО, как и Италия. Несмотря на многочисленные скандалы, Европа, где расположено множество разработчиков шпионского ПО и инструментов для взлома, постоянно не справлялась с пресечением экспорта шпионского ПО в авторитарные режимы. Критики утверждают, что недавно возобновленное усилие 27 государств-членов блока по решению растущей проблемы экспорта шпионского ПО в авторитарные государства «недостаточно далеко заходит».
Некоторые разработчики шпионского ПО, такие как Intellexa, находящийся под санкциями консорциум компаний, занимающихся шпионским ПО, просто перенесли свою деятельность в страны со слабым экспортным контролем. Другие разработчики шпионского ПО стремились перенести свою деятельность в Саудовскую Аравию по аналогичным причинам.
Были и успехи. Немецкая компания FinFisher, занимающаяся разработкой шпионского ПО, прекратила деятельность в 2022 году после многолетнего расследования немецких прокуроров в отношении компании за предполагаемую продажу шпионского ПО Турции без экспортной лицензии. Следователи ранее обнаружили, что шпионское ПО FinFisher развертывалось на телефонах критиков турецкого правительства.
На момент написания статьи тупиковая ситуация между Anthropic и администрацией Трампа сохраняется. Существует разумная вероятность того, что администрация уступит и снимет ограничение в интересах сохранения конкурентоспособности американских ИИ-компаний по всему миру — шаг, который будет означать молчаливое признание того, что ИИ-лаборатории в других местах, в том числе в Китае, вероятно, достигнут схожих возможностей, независимо от того, что ограничивают США. Или же американским ИИ-компаниям, возможно, потребуется государственное одобрение, прежде чем обслуживать зарубежных клиентов, — бремя соблюдения требований, которое неизбежно ударит по их прибыли.
Учитывая прошлый опыт мировых правительств в попытках контролировать распространение программного обеспечения, экспортный контроль, предписанный правительством, вряд ли окажется правильным подходом для предотвращения злоупотребления мощными кибертехнологиями двойного назначения со стороны злоумышленников.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lorenzo Franceschi-Bicchierai
