Anthropic представляет новую структуру для мониторинга злоупотреблений ИИ в корпоративном сегменте без потери контроля над конфиденциальными данными. Это поможет организациям сбалансировать видимость безопасности и строгие требования соответствия.
Компания анонсировала решение Enterprise Frontier Safeguards (EFS), которое «сочетает конфиденциальность нулевого хранения данных (ZDR) с передовыми механизмами защиты от злоупотреблений», говорится в сообщении компании.
В рамках этого подхода данные об активности, используемые для мониторинга, будут храниться в облачной инфраструктуре, «контролируемой клиентом, а не Anthropic», добавили в компании.
Функция будет развернута поэтапно этой осенью и будет предложена соответствующим требованиям клиентам.
Для обеспечения плавного перехода Anthropic заявила, что клиенты получат нулевое хранение данных на моделях Fable 5 и новой Fable 5.1 до развертывания EFS.
«EFS будет поддерживаться на Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform на AWS, Google Agent Platform и Microsoft Foundry», — добавлено в сообщении.
Это произошло через несколько дней после того, как OpenAI представила аналогичный подход для ограничения хранения данных при обнаружении злоупотреблений.
Контроль клиента, но общая ответственность
Компания заявила, что EFS разработана для предоставления предприятиям контроля над тем, как данные мониторинга хранятся и анализируются, позволяя Anthropic выявлять закономерности злоупотреблений.
«С EFS клиенты контролируют, как анализируются данные», — заявила Anthropic, добавив, что автоматизированные системы отмечают подозрительную активность и передают эти сигналы командам клиентов.
«EFS имеет автоматизированный мониторинг безопасности, не требующий ручного анализа со стороны Anthropic», — добавили в компании.
Джайшив Пракаш, директор-аналитик Gartner, отметил, что этот шаг может помочь решить проблемы соответствия требованиям.
«Этот шаг важен, поскольку он устраняет барьеры соответствия, которые мешали строго регулируемым предприятиям внедрять передовые модели ИИ», — сказал Пракаш. «Передавая хранение данных из централизованных сред поставщиков, организации сохраняют окончательное управление конфиденциальной информацией».
Санчит Вир Гогия, главный аналитик Greyhound Research, считает, что предприятия не должны полагать, что контроль над данными означает полную видимость.
«Хранение не следует путать с видимостью», — сказал Гогия. «Anthropic по-прежнему определяет структуру безопасности и управляет детектором».
«Каждый покупатель должен поэтому спросить, кто владеет данными, кто владеет ключом, кто управляет детектором, кто определяет значение оповещения и кто применяет последствия», — сказал он.
Операционная нагрузка переходит к предприятиям
Anthropic заявила, что ее системы анализируют активность в различных сессиях и учетных записях на предмет таких сигналов, как попытки разработки «вредоносных кибернетических или биологических возможностей» или признаки «украденных или скомпрометированных учетных данных». Оповещения отправляются командам клиентов для анализа.
«Обнаружение автоматизировано в этой модели, а ответственность — нет», — сказал Гогия, добавив, что система создает внутренний рабочий процесс для анализа оповещений без раскрытия объемов или частоты ложноположительных срабатываний.
Пракаш отметил, что тот же сдвиг увеличивает операционные требования.
«Модель фундаментально перекладывает операционную нагрузку по сортировке оповещений и реагированию на инциденты непосредственно на предприятие», — сказал он. «Руководители по безопасности и рискам должны активно инвестировать в специфичные для ИИ рабочие процессы и адекватно укомплектовать свои операционные центры».
Переосмысление компромисса в хранении данных
Anthropic заявила, что наблюдала «существенные доказательства попыток злоупотреблений… от типичных форм злоупотреблений, таких как мошенничество, до сложных кибератак», включая случаи, связанные с «кражей или неправомерным использованием учетных данных корпоративных клиентов».
«Эффективное обнаружение требует хранения данных в течение значительного периода времени, чтобы их можно было сопоставить по времени и учетным записям», — говорится в сообщении компании.
Гогия заявил, что EFS не устраняет это требование.
«Enterprise Frontier Safeguards перемещает сохраненные доказательства, а не устраняет необходимость в них», — сказал он, описывая модель как «нулевое хранение данных на стороне поставщика наряду с хранением, контролируемым клиентом».
«Две передовые лаборатории, сходящиеся на одной архитектуре в течение двух недель, делают дизайн закономерностью, а не отличительной чертой», — сказал Гогия.
Соответствует существующим корпоративным средствам контроля
Anthropic заявила, что EFS позволяет клиентам хранить данные об активности в их собственных облачных средах, включая Amazon S3, Azure Blob Storage или Google Cloud Storage, используя их собственные ключи шифрования и средства контроля доступа.
«Клиенты хотят иметь возможность хранить свои данные в инфраструктуре, которую они контролируют», — заявила компания. Компания добавила, что эти функции являются необязательными и не изменяют поведение или ценообразование моделей.
Пракаш отметил, что существующие корпоративные инструменты по-прежнему играют роль.
«Существующие архитектуры безопасности обеспечивают некоторый надзор, но, как правило, им не хватает специфичной для модели видимости, необходимой для обнаружения закономерностей злоупотреблений в подсказках, сессиях и учетных записях», — сказал он.
Гогия заявил, что большинство предприятий уже используют шлюзы, инструменты предотвращения потери данных и платформы SIEM, и описал EFS как «встроенный в поставщика датчик, а не плоскость управления».
Формирующаяся закономерность, пока не стандарт
Anthropic заявила, что разработала EFS при участии более чем 100 организаций из различных секторов.
Гогия отметил, что этот подход может получить более широкое распространение, но пока еще рано говорить об этом.
«EFS имеет реальный шанс стать нормой закупок или эталонной архитектурой для корпоративного ИИ в области безопасности», — сказал он. «Еще слишком рано называть это стандартом».
Пракаш указал, что мониторинг под контролем клиента «может стать вариантом для регулируемых предприятий», но добавил, что это не заменит частные развертывания.
«Регулируемые покупатели должны требовать проверяемые артефакты, прежде чем принимать безопасные прилагательные», — сказал Гогия, включая «опубликованную модель потока данных, точность и полноту детектора, а также неизменяемые доказательства с указанием происхождения версии». Anthropic заявила, что не будет взимать плату за EFS, хотя клиенты понесут стандартные расходы на облачную инфраструктуру.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
