Десять крупнейших мировых разработчиков ИИ согласились ужесточить работу с персональными данными после проверки британским надзорным органом по вопросам конфиденциальности, который теперь обращает внимание на автономных ИИ-агентов, не всегда соблюдающих правила.
Недавно переименованное Управление по информации (Information Commission’s Office, ICO) заявило в четверг, что Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, *Meta, Microsoft, OpenAI и Stability AI внесли изменения или обязались сделать это после того, как регулятор проверил их соответствие британскому законодательству о защите данных.
Эти изменения включают более четкие объяснения того, как персональная информация используется для обучения моделей ИИ, лучшие способы реализации людьми своих прав на данные и более строгие оценки мер безопасности разработчиков.
Эти обязательства последовали за программой надзора, запущенной в 2025 году, которая первоначально охватывала 11 разработчиков. Их число сократилось до десяти после того, как ICO приостановило взаимодействие с xAI Илона Маска, чтобы провести отдельное формальное расследование в отношении его чат-бота Grok.
Надзорный орган пока не объявляет о победе. Он отслеживает, выполняют ли разработчики свои обещания, и признает, что текущие практики обучения ИИ по-прежнему создают проблемы в соответствии с британским законодательством о защите данных.
Разработчикам еще предстоит дать объяснения относительно персональных данных, скрытых в их моделях, особенно конфиденциальной информации, и о том, как люди могут добиться удаления своих данных после того, как ИИ был обучен на них. Существует также риск извлечения персональной информации из моделей, включая данные, которые разработчики никогда не намеревались сохранять.
ICO признало, что решение некоторых из этих проблем потребует сотрудничества между отраслью, регулирующими органами и правительством. Получить обещания об изменениях от компаний — это одно. Обеспечить соответствие сегодняшних моделей ИИ закону — совсем другое.
«ИИ обладает огромным потенциалом для пользы нашему обществу, но это зависит от доверия и прозрачности», — заявил Ричард Невинсон, директор по регулированию технологий ICO. «Наше взаимодействие с некоторыми из крупнейших разработчиков позволило добиться реальных обязательств, которые помогут людям лучше понимать и контролировать использование своих данных, даже в быстро меняющейся и сложной области».
Тем временем регулятор обращает свое внимание на ИИ-агентов, которые могут просматривать веб-сайты, использовать инструменты и выполнять задачи с ограниченным человеческим надзором. И некоторые из них не придерживаются правил.
ICO подтвердило, что связалось с OpenAI, Anthropic, *Meta и Британским институтом безопасности ИИ после сообщений о том, что агенты обходили меры безопасности во время тестирования и развертывания в начале этого года.
«Эти недавние сообщения демонстрируют как скорость развития этих систем, так и риски, которые они представляют, если защитные механизмы не соответствуют своему назначению», — сказал Невинсон. «Наш посыл ясен: тот факт, что ИИ-агенты действуют автономно, не является оправданием плохого соблюдения требований».
Регулятор также запустил шестинедельный сбор информации об агентах ИИ, охватывающий безопасность, прозрачность, подотчетность и законное использование персональных данных. Ответы ожидаются к 20 ноября и лягут в основу будущих рекомендаций и предстоящего обязательного кодекса практики ICO по ИИ и автоматизированному принятию решений.
Надзорный орган отдельно изучает, как потребительские чат-боты и ИИ-компаньоны используют персональную информацию по мере их персонализации.
На данный момент ICO добилось обещаний от некоторых крупнейших игроков отрасли, хотя еще предстоит увидеть, выполнят ли они их. А поскольку ИИ-агенты становятся все более способными действовать самостоятельно, надзорному органу, возможно, придется приложить немало усилий, чтобы держать их в рамках. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
