Решение администрации Трампа запретить компании Anthropic, занимающейся разработкой ИИ, доступ к активам Пентагона и другим государственным системам в качестве «риска для цепочки поставок» может поставить руководителей по информационной безопасности (CISO) в ситуацию, с которой немногие сталкивались ранее: им придется готовиться к выявлению, изоляции и потенциальному удалению конкретной технологии ИИ из своих организаций без четкого понимания того, где она находится или насколько глубоко внедрена.
В то время как администрация отстаивает это решение в федеральном суде как законную меру национальной безопасности и управления цепочками поставок, практическое бремя уже перекладывается на предприятия, особенно на государственных подрядчиков, от которых, возможно, скоро потребуется доказать, что они больше не используют технологию этой компании в какой-либо форме.
«По сути, невозможно… с высокой степенью уверенности заявить, что они удалили Anthropic из всего в своей среде», — говорит Том Пейс, генеральный директор NetRise, в интервью CSO, описывая проблему с операционной точки зрения.
Эта трудность проистекает из давнего пробела, который теперь становится неизбежным. Большинство предприятий не ведут полного или актуального учета того, как системы ИИ используются в их средах, и не до конца понимают, как эти системы встроены в их сети.
Доступ к моделям ИИ может осуществляться напрямую через API, встраиваться во внутренне разработанные приложения, включаться в рабочие процессы разработчиков или вводиться косвенно через стороннее программное обеспечение и сервисы. Во многих случаях эти зависимости невидимы для централизованных групп безопасности, особенно в организациях, где эксперименты с генеративным ИИ опережают управление.
Тем не менее Пентагон активно работает над тем, чтобы изъять технологии Anthropic как из своих внутренних сетей, так и из сетей подрядчиков. В меморандуме Пентагона от 6 марта военным подразделениям предписывается удалить продукты Anthropic из систем и сетей в течение 180 дней, уделяя первоочередное внимание критически важным для миссии средам, таким как ядерные объекты, системы противоракетной обороны и кибероперации.
Директива также требует от сотрудников по закупкам уведомлять поставщиков и обязывает подрядчиков подтвердить соблюдение требований в те же сроки, фактически распространяя это требование на всю оборонно-промышленную базу.
Действия администрации знаменуют собой сдвиг в подходе к технологиям ИИ в контексте национальной безопасности. Модели больше не являются просто инструментами; они рассматриваются как регулируемые компоненты цепочки поставок. Для CISO этот сдвиг вносит новый класс риска — тот, который сочетает в себе политическую неопределенность, техническую непрозрачность и потенциально агрессивные сроки соблюдения требований.
Предписание, предполагающее видимость, которой у CISO пока нет
На бумаге директива Пентагона следует знакомой схеме. Она устанавливает крайний срок, приоритизирует критически важные системы, каскадирует требования к подрядчикам и допускает лишь ограниченные исключения при контролируемых условиях. Аналогичные рамки использовались в прошлых усилиях по удалению определенных поставщиков из федеральных систем, особенно в сфере телекоммуникаций.
Что отличает случай с Anthropic, так это природа задействованной технологии. В отличие от оборудования или традиционных программных компонентов, системы ИИ не поддаются простому перечислению. К одной модели можно получить доступ через несколько интерфейсов, встроить ее в различные приложения или обернуть слоями инструментов, которые скрывают ее происхождение. Зависимости также могут быть транзитивными, проявляясь через библиотеки, плагины или сервисы, интегрированные в более широкие системы.
Эта сложность делает первый шаг — определение того, где используется Anthropic, — гораздо более трудным, чем предполагает директива. Пейс сравнил эту проблему с опытом отрасли в отношении Log4j, когда организации изо всех сил пытались найти широко используемый компонент, погребенный в обширных программных экосистемах. В случае с ИИ проблема усугубляется тем фактом, что не все зависимости ведут себя как традиционные программные артефакты — или даже видны как таковые.
Отсутствие видимости отражается в общей готовности отрасли. Согласно Индексу готовности к ИИ Cisco за 2025 год, только 31% организаций заявляют, что полностью готовы обеспечивать безопасность агентурных систем ИИ, в то время как только 27% сообщают о наличии гранулированного контроля доступа к системам и наборам данных ИИ. Эти цифры свидетельствуют о том, что даже базовое управление использованием ИИ остается незавершенным в большей части корпоративного ландшафта, что ставит организации в невыгодное положение для реагирования на директиву, которая предполагает уровень понимания, которого многие еще не достигли.
Давление соблюдения требований до ясности политики
Для организаций, работающих с федеральным правительством, последствия выходят за рамки технических проблем и затрагивают юридические и договорные риски. Алекс Мейджор, сопредседатель практики государственных контрактов и международной торговли в юридической фирме McCarter and English, заявляет CSO, что обозначения цепочек поставок, подобные запрету Anthropic, имеют тенденцию быстро переходить от заявлений о политике к принудительным требованиям, даже если формальные правила закупок отстают.
«Вы не можете управлять тем, что не нашли», — говорит Мейджор, подчеркивая, что немедленная задача CISO — определить, где существуют зависимости от Anthropic в их системах и сетях поставщиков.
По его словам, к этому процессу следует подходить как к техническому, так и к комплаенс-упражнению. Организациям, возможно, потребуется документировать, как они выявили затронутые системы, какие шаги предприняли для удаления или замены компонентов и как они проверили эффективность этих шагов. В среде сертификации способность продемонстрировать должную осмотрительность может быть столь же важна, как и технический результат.
В то же время Мейджор предостерег от поспешных действий в регулируемых средах без надлежащего контроля.
«Замедлитесь», — советует он. «Приведите в порядок анализ вашей цепочки поставок и ничего не делайте, пока это не будет сделано». Он добавляет: «Если вы действуете быстро, комплаенс-риск поспешного удаления в чувствительной среде может превысить комплаенс-риск обдуманного, задокументированного плана перехода».
Нет согласия о том, когда действовать
Это напряжение отражается в отсутствии консенсуса среди экспертов относительно того, как CISO следует реагировать в ближайшей перспективе. Директива Пентагона дает четкий сигнал для систем, связанных с обороной, но общая политическая обстановка остается неопределенной, что заставляет организации решать, насколько агрессивно действовать.
Дэниел Барденштейн, генеральный директор и соучредитель Manifest, утверждает, что текущая политическая структура еще не обеспечивает необходимой конкретики для обоснования широкомасштабных изменений в корпоративных средах. «Это не указ», — говорит он CSO. «Это не меморандум OMB».
Он охарактеризовал руководство как неполное и недостаточно детализированное для преобразования в оперативные требования, особенно учитывая сложность систем ИИ и существующие пробелы в безопасности цепочек поставок программного обеспечения.
Пейс придерживается более прагматичного взгляда для организаций, уже работающих в федеральных средах. «Если вы являетесь частью федерального правительства, вы должны удалить все свидетельства и использование Anthropic, и точка», — говорит он.
В то же время Пейс признал, что многие организации, вероятно, отложат действия до тех пор, пока требования не будут формализованы в рамках закупок и нормативных актов. Эта нерешительность отражает более широкую неопределенность в отношении того, как реагировать на политику, которая все еще развивается, даже несмотря на появление ранних сигналов о принудительном исполнении.
Проблема видимости предшествует ИИ
Сложность выявления зависимостей ИИ не является чем-то совершенно новым. Она основана на давних проблемах с видимостью цепочек поставок программного обеспечения, когда организации изо всех сил пытались вести точный учет компонентов в своих системах.
Крис Высопал, основатель и главный евангелист по безопасности Veracode, заявляет CSO, что ситуация с Anthropic подчеркивает, как эти проблемы теперь распространяются на ИИ. «Это огромное изменение для людей, продающих программное обеспечение федеральному правительству», — говорит он, отмечая, что компании просят отчитываться о моделях внутри своих продуктов так, как им раньше не приходилось этого делать.
Высопал отметил, что некоторая форма спецификации материалов (bill of materials) может помочь организациям определить, присутствует ли конкретная технология в их программном обеспечении, особенно при реагировании на требования клиентов или регулирующих органов. В то же время он предостерег, что замена моделей может быть нетривиальной, если приложения были разработаны с учетом определенных возможностей, что потребует корректировки кода, рабочих процессов и процессов тестирования.
AI-BOM или SBOM?
Вопрос о том, как достичь этой видимости, вызвал активную дискуссию о том, достаточно ли существующих рамок спецификации материалов программного обеспечения (SBOM) для ИИ, или организациям нужен новый подход.
Эми Чанг, руководитель отдела разведки угроз ИИ и исследователь безопасности в Cisco Systems, утверждает, что традиционные SBOM не охватывают весь масштаб систем ИИ. «Системы ИИ включают модели, агенты, промпты и данные», — говорит она. «Если вы отслеживаете только пакеты, вы упускаете из виду, как на самом деле функционирует система».
Ее мнение заключается в том, что организациям требуется более динамичное представление о том, как работают системы ИИ, включая то, как модели взаимодействуют с данными и другими компонентами, чтобы эффективно понимать риски и управлять изменениями.
Аллан Фридман, «отец» SBOM, а ныне технолог в TPO group, предлагает более взвешенную точку зрения. Он согласен с тем, что прозрачность необходима, но предостерегает от предположения, что одной лишь видимости будет достаточно для решения проблемы.
«Прозрачность не решит все ваши проблемы», — говорит он CSO, отмечая, что организации должны интегрировать эту информацию в более широкие процессы управления рисками. «Нам все еще нужны red team и некоторые из этих базовых методов обеспечения безопасности, чтобы напомнить людям, что SBOM ни разу не забрал мою химчистку», — добавляет он. «Поэтому важно подумать о том, как взять эти данные о прозрачности и интегрировать их в вашу общую программу поставок».
Пейс из NetRise отвергает предпосылку о том, что ИИ требует собственной новой категории спецификации материалов, утверждая, что правильно реализованный SBOM уже должен охватывать компоненты, связанные с ИИ. По его мнению, проблема не в отсутствии новой структуры, а в неполном внедрении существующих. «AI-BOM — это глупость», — говорит он. «Не существует такого понятия, как AI-BOM. У вас есть SBOM, который идентифицирует компоненты ИИ. ИИ — это программное обеспечение, насколько я помню».
Это разногласие отражает более глубокую неопределенность в отношении того, как моделировать риски цепочки поставок ИИ в то время, когда от организаций требуют действовать в отношении них.
Удаление — это не то же самое, что замена
Даже если организации смогут определить, где используются технологии Anthropic, удаление — это лишь часть задачи. Замена несет в себе собственный набор сложностей, особенно когда приложения были разработаны с учетом специфического поведения моделей.
Зависимости могут быть глубоко встроены в приложения или вводиться через стороннее программное обеспечение, что требует координации между поставщиками и командами разработчиков. В некоторых случаях замена модели может потребовать переработки промптов, переобучения систем или повторной проверки результатов, чтобы гарантировать сохранение функциональности и производительности.
Ананд Освал, исполнительный вице-президент Palo Alto Networks, подчеркивает, что видимость — это лишь один из компонентов более широкой стратегии безопасности. Организациям также требуется непрерывное обнаружение, тестирование и средства контроля в реальном времени для управления рисками ИИ по мере развития систем.
«Вам нужно комплексное решение для обеспечения безопасности ИИ», — говорит он CSO, утверждая, что системы ИИ динамичны, их модели, данные и поведение меняются со временем, что делает статические инвентаризации недостаточными без постоянного мониторинга и управления. «Вы хотите иметь полную видимость ваших приложений ИИ, ваших агентов ИИ, ваших инструментов ИИ, плагинов, данных, к которым они обращаются, всего, что связано с этой инфраструктурой ИИ, используемой для создания ваших приложений или агентов. Как только вы это сделаете, это будет обнаружение. Это хорошо. Это начало».
Новая категория риска цепочки поставок
Случай с Anthropic представляет собой сдвиг в подходе правительств к технологиям ИИ, рассматривая модели и связанные с ними экосистемы как компоненты цепочки поставок, которые могут быть ограничены или удалены.
Для CISO задача состоит не просто в реагировании на одну директиву, а в подготовке к будущему, когда аналогичные действия могут быть применены к другим поставщикам ИИ не только правительством США, но и регуляторами и клиентами. Это требует видимости зависимостей ИИ, ясности в отношении того, как эти зависимости используются, и стратегии их замены без нарушения критически важных систем.
По мере формирования этих ожиданий от организаций требуется действовать на уровне понимания и контроля, которого многие еще не достигли. Как предостерегает Фридман, «Все быстро строят на этих системах, не до конца понимая, что находится внутри них».
Более тесное сотрудничество в рамках цепочки поставок программного обеспечения и ИИ в конечном итоге может сделать эту проблему более управляемой, сказал он, но пока разрыв между тем, что, как ожидается, организации должны знать, и тем, что они могут фактически видеть, остается большим.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cynthia Brumfield
