Через две недели после того, как правительство США запретило модели Fable и Mythos от Anthropic, новая модель OpenAI, похоже, ожидает та же участь. Издание The Information сообщило в четверг, что GPT 5.6 будет выпущен только в рамках ограниченного предварительного доступа, при этом правительство будет одобрять выпуск «клиент за клиентом» до тех пор, пока не будет одобрен общий релиз.
Если этот предварительный доступ продлится всего «пару недель», как, по сообщениям, прогнозировал Альтман, это может не стать большой проблемой. Однако Mythos уже находится в предварительном доступе месяцами, и нет никаких признаков того, что она скоро выйдет в общий релиз. Даже несколько недель, потраченных на проверку, могут существенно ограничить экономическую выгоду от дорогостоящей новой системы в то время, когда ИИ-лаборатории отчаянно пытаются улучшить свои финансовые показатели. Если в результате темпы разработки моделей замедлятся, это, вероятно, окажет аналогичное охлаждающее воздействие на продолжающееся строительство дата-центров.
Если ситуация обернется плохо, под угрозой окажется вся отрасль.
Критически важно то, что OpenAI и Anthropic теперь оказались в абсолютно одинаковом положении: перед ними стоят одни и те же проблемы и та же катастрофа в случае неудачи. Дискуссии в технологической индустрии, как правило, сосредоточены на роли той или иной стороны в доведении ситуации до этого: либо обвиняют Anthropic в проведении схемы регуляторного захвата, либо обвиняют OpenAI в заигрывании с Трампом, чтобы вытеснить конкурента. Это объяснимо: на кону стоят миллиарды долларов многих самых влиятельных людей в отрасли, зависящие от одной или другой компании.
Но то, что происходит сейчас, масштабнее. Очевидна стоимость внедрения хаотичного правительственного процесса утверждения для каждой передовой модели, и не существует такого решения, которое помогло бы одной лаборатории, не помогая другим.
Самая насущная проблема — это просто установление разумного процесса выпуска. Это нормально, когда правительство тестирует модели перед выпуском (так происходит со многими потребительскими продуктами), но, как подробно изложил сотрудник GMU (и будущий сотрудник OpenAI) Дин Болл в красноречивом посте сегодня утром, неясно, какие гарантии безопасности могут быть предоставлены для удовлетворения регуляторов. У правительства США нет ни опыта, ни возможностей для того типа тестирования, которое потребуется в данном случае. Неясно даже, от чего именно регуляторы пытаются защититься, поскольку не было предпринято никаких усилий для формулирования того, какие риски на самом деле вызывают озабоченность у правительства.
Заманчиво рассматривать правительственный процесс как корень всех проблем, но под ним лежат реальные опасения. Даже если вы не верите в ажиотаж вокруг Mythos, существуют явные доказательства того, как инструменты ИИ революционизируют кибербезопасность. Аналогичные процессы наблюдаются в сферах биологических рисков и выравнивания. Ограничение выпусков моделей само по себе не может быть единственным решением — это лишь ограничит доступ общественности, — но есть реальные проблемы, которые необходимо решить.
Лучшие идеи для их решения, изложенные Боллом, будут означать совместную работу. Это будет означать доверие к независимым группам для руководства процессом, даже если их цели не полностью совпадают с вашими. Это будет означать поддержку наименее плохих доступных регуляторных вариантов, вместо того чтобы бороться с каждым положением до последнего. И самое главное, это будет означать борьбу за ИИ как отрасль, а не рассмотрение вопросов безопасности и регулирования как возможностей для получения преимущества.
Для многих людей, работающих в сфере ИИ, это будет сложно принять. К сожалению, модели ИИ достигли того уровня развития, когда их возможности имеют реальные политические последствия. Решение этих последствий потребует коллективных действий. В ближайшие недели мы узнаем, на что способна индустрия.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
