Компания Anthropic предоставила внешним экспертам доступ, аналогичный доступу сотрудников, для оценки рисков своих моделей. Это сделано в рамках обязательства усилить меры безопасности в связи с опасениями, что технология может выйти из-под контроля.
METR, некоммерческая организация, сотрудничающая с ведущими лабораториями, включая OpenAI, Anthropic, Google и *Meta, теперь имеет команду, работающую в офисе разработчика Claude, с доступом к его оборудованию и внутренним системам.
Расширение роли сторонних оценщиков является одним из основных конкретных шагов, предложенных лабораториями в ответ на растущую обеспокоенность по поводу опасностей, которые более совершенные системы ИИ могут представлять для экономики, кибербезопасности и человечества в целом.
Генеральный директор Anthropic Дарио Амодеи достиг редкого момента единения с главными конкурентами Сэмом Альтманом и Илоном Маском в сентябре, когда руководители OpenAI и SpaceX поддержали его предложение о включении внешних аудиторов в ведущие лаборатории.
Объявление в четверг знаменует собой первый шаг к выполнению этих обещаний. OpenAI еще не представила планы по привлечению оценщиков после того, как Альтман назвал предложения Амодеи хорошей идеей.
«По мере того как модели становились мощнее, требовались более надежные меры безопасности и более сложные оценки рисков, — заявила Anthropic в четверг. — Мы хотим нести публичную ответственность за принимаемые нами решения. Но мы не можем публично раскрывать всю информацию, относящуюся к нашей работе по обеспечению безопасности».
Критики предложения Anthropic об использовании оценщиков утверждали, что такие договоренности могут привести к конфликтам интересов, указывая на проблемы в бухгалтерской сфере, и что требуется большее государственное регулирование.
Anthropic возразила, что публичное раскрытие информации может принести пользу злоумышленникам или конкурентам, и добавила, что ее оценщики будут работать аналогично банковскому надзору, когда регуляторы назначают постоянных инспекторов для работы внутри крупнейших банков.
,
«Если рискованная деятельность банка может угрожать общественности, третьи стороны пытаются выявить это заранее», — заявила компания.
Anthropic также находится под давлением, чтобы заверить инвесторов в том, что вопросы безопасности не омрачат ее первичное публичное размещение акций, ожидаемое в этом году с оценкой более 2 триллионов долларов. Значительная часть презентаций для инвесторов на этой неделе была посвящена изложению ее практик безопасности.
METR была одной из организаций, расследовавших взлом Hugging Face с помощью неконтролируемых моделей OpenAI, проанализировав тысячи журналов и получив доступ к ноутбукам компании.
Anthropic теперь приняла на работу шесть сотрудников METR, предоставив им оборудование компании, офисное пространство и «доступ к внутренним инструментам и системам, который примерно соответствует тому, к чему имеют доступ наши собственные команды по оценке рисков».
Лаборатория заявила, что поощряла сотрудников делиться информацией с оценщиками так же, как они делились бы с коллегой, работающим в отделе рисков.
Anthropic не платит METR за эту договоренность. Исследовательская группа не принимает пожертвований от ИИ-компаний или их сотрудников. Она финансируется за счет пожертвований от частных лиц и филантропических организаций, а также от государственных органов, таких как Институт безопасности ИИ Великобритании.
Оценщики будут публиковать свои аналитические материалы, и Anthropic не сможет наложить вето на публикацию. Однако она может потребовать от них отредактировать информацию, относящуюся к определенным категориям, таким как данные клиентов, сведения, подпадающие под адвокатскую тайну, или информация об архитектуре моделей.
Anthropic добавила, что продолжает сотрудничать с Accenture, которая была названа партнером по тестированию безопасности в прошлом месяце, причем каждая сторона обязалась выделить не менее 1 миллиарда долларов на создание новых мер безопасности.
Еще одним сторонним тестировщиком является SecureBio, которая проводит оценку рисков, связанных с химическим и биологическим оружием, для компании.
«Мы добровольно внедряем оценщиков, и считаем, что каждая передовая ИИ-компания должна делать то же самое», — заявила Anthropic.
METR заявила: «Мы готовы работать со всеми передовыми разработчиками ИИ, чтобы предоставить общественности более достоверные данные».
© 2026 The Financial Times Ltd. Все права защищены. Не подлежит дальнейшему распространению, копированию или изменению в любой форме.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cristina Criddle, Financial Times
