По мере того как предприятия и государственные организации по всему миру все активнее внедряют модели ИИ в свои повседневные рабочие процессы, нулевое хранение данных (ZDR) стало критически важным требованием для масштабирования развертываний и обеспечения доверия, соответствия нормативным требованиям и более широкого внедрения. И OpenAI, и Anthropic теперь предлагают поддержку ZDR, но она ограничена подходящими или соответствующими критериям организациями и не доступна автоматически каждому клиенту API.Недавно Anthropic объявила, что ее передовые модели ИИ явно исключены из ZDR. Фактически, Anthropic в настоящее время указывает как Claude Fable 5, так и Claude Mythos 5 как “Covered Models”, требующие 30-дневного хранения данных. Таким образом, эти модели нельзя использовать в конфигурации ZDR.
Сегодня OpenAI опубликовала запись в блоге, в которой заявила, что не хочет, чтобы клиенты сталкивались с компромиссом между использованием ее самых мощных моделей и сохранением защиты нулевого хранения данных. Когда ZDR включен, компания не сохраняет запросы клиентов или ответы моделей после обработки запроса, и контент недоступен сотрудникам OpenAI для проверки. OpenAI также не использует данные корпоративных клиентов для обучения своих моделей, если клиент явно не согласился на это.
OpenAI теперь берет на себя новое обязательство по конфиденциальности перед корпоративными клиентами, использующими ее передовые модели ИИ. Соответствующие критериям клиенты API продолжат получать защиту ZDR, даже когда OpenAI внедряет более продвинутые системы безопасности, предназначенные для обнаружения неправомерного использования в рамках нескольких взаимодействий.
Существующие совместимые с ZDR системы безопасности обычно оценивают отдельные взаимодействия независимо. Однако обнаружение неправомерного использования становится сложнее по мере того, как модели ИИ берут на себя более длинные и сложные задачи, включающие последовательность взаимодействий. Чтобы решить эту проблему, OpenAI представляет новую систему под названием Private Safety Processing. Она может анализировать шаблоны в связанных взаимодействиях, сохраняя при этом базовые запросы и ответы недоступными для сотрудников OpenAI.
Для развертываний ZDR контент клиентов будет оставаться на инфраструктуре, контролируемой клиентом. OpenAI также разрабатывает опцию, при которой данные могут храниться на ее инфраструктуре, но зашифрованы с использованием ключей, контролируемых клиентом.
Когда эта новая система Private Safety Processing обнаруживает потенциальное неправомерное использование, OpenAI получает доступ только к ограниченному сигналу, описывающему тип задействованной активности. Сотрудники OpenAI не получают доступа к запросам и ответам клиентов, которые вызвали сигнал. Однако клиенты могут расследовать оповещения с помощью своих собственных систем и добровольно делиться соответствующей информацией с OpenAI, если они решат обжаловать или помочь в расследовании.
OpenAI уже тестирует эту систему с первыми клиентами и планирует начать ее развертывание в сентябре. Важно отметить, что изображения, помеченные как потенциальный материал о сексуальном насилии над детьми, все еще могут сохраняться для ручной проверки и отчетности, требуемой по закону, поэтому они не подпадают под ZDR.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pradeep Viswanathan
