Руководители ведущих американских лабораторий в области ИИ — Anthropic, OpenAI и xAI — совместно призвали замедлить темпы разработки передовых моделей ИИ. Главы компаний выразили обеспокоенность по поводу рекурсивного самосовершенствования, которое может привести к тому, что люди перестанут понимать ИИ, а также по поводу взломов с использованием автономных агентов, которые были зафиксированы в отношении RubyGems и Hugging Face.
Идея замедления исходит от генерального директора Anthropic Дарио Амодеи, который опубликовал предложение на своем личном веб-сайте. В нем он объявил о добровольном обязательстве Anthropic привлекать сторонних специалистов по оценке безопасности с физическим доступом в офис компании, чтобы гарантировать, что компания не принимает масштабные решения в одиночку. Сэм Альтман также подтвердил, что OpenAI не планирует выходить на биржу до 2027 года, что означает, что рынок не сможет заставить OpenAI работать быстрее, чем следует.
Этот переход к более оборонительной позиции происходит в очень интересный момент. Мы наблюдаем, как ИИ совершает взломы, что нежелательно, но также видим, как он решает очень сложные задачи, такие как уравнение Навье — Стокса. Эти лидеры в области ИИ, возможно, считают, что они достигли очень полезного уровня развития ИИ. В настоящее время ИИ может помочь нам решить очень большие проблемы, но он еще не достиг точки, когда он может убить или поработить всех.
Хотя этот шаг был бы полезен для таких вещей, как более строгая согласованность безопасности, исследования интерпретируемости и операционная гигиена, он противоречит коммерческой конкуренции и создает риск отставания Америки в геополитическом плане от зарубежных моделей ИИ. Примечательно, что DeepSeek только что выпустила V4.1-Flash, которая находится на одном уровне с самой мощной моделью OpenAI, выпущенной два месяца назад, GPT-5.6 Sol.
Более подробно Амодеи выделил три шага в своем плане замедления. Во-первых, это встроенные оценщики. Каждая компания, занимающаяся передовыми технологиями ИИ, обязуется предоставить сторонним оценщикам доступ на уровне сотрудников для проверки соблюдения практик и обязательств в области безопасности, сообщения об инцидентах и помощи в оценке согласованности завершенных моделей, конвейеров обучения и процессов. Anthropic уже заявила, что сделает это в одностороннем порядке.
Во-вторых, он призвал к демократической координации, в рамках которой компании, занимающиеся передовыми технологиями ИИ в демократических странах, будут координировать свои действия, устанавливать общие стандарты безопасности и ограничивать темпы неконтролируемого прогресса в области ИИ. Он заявил, что этот шаг, вероятно, потребует государственной поддержки.
Наконец, он призывает к глобальной координации, в рамках которой США и другие демократические страны будут стремиться максимально сотрудничать с авторитарными правительствами, одновременно решая проблему проверки соблюдения. Основной страной, подпадающей под эту категорию, является Китай, поскольку он обладает наибольшим количеством моделей ИИ после США.
Сообщите нам, что вы думаете в комментариях: следует ли замедлить темпы развития передовых лабораторий ИИ, или вы считаете, что опасения преувеличены и им следует продолжать в том же духе.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Paul Hill
