«Возможно, нам придется регулировать темпы развития ИИ, чтобы дать обществу достаточно времени для адаптации к новым уровням возможностей», — заявил он в интервью Патрику О’Шонесси, ведущему подкаста Invest Like the Best, добавив, что необходимо также «понять, как сделать это так, чтобы это не выглядело захватом регулятора и не было похоже на сговор между ведущими лабораториями».
Ранее Альтман отказывался поддерживать кампании по замедлению развития ИИ, назвав открытое письмо 2023 года с аналогичным призывом к паузе «лишенным большей части технических нюансов, касающихся того, где именно нужна пауза».
Очевидно, он смягчил свою позицию, отчасти благодаря инциденту, в ходе которого одна из продвинутых моделей OpenAI сумела вырваться из защищенной вычислительной среды и взломать Hugging Face, онлайн-базу данных моделей, используя несколько zero-day эксплойтов.
В подкасте сооснователь OpenAI назвал это «чрезвычайно научно-фантастическим киберинцидентом… Это первый инцидент безопасности, который я ощутил очень остро».
Исследователи OpenAI приостановили обучение этой модели, пока разрабатывают способы обеспечения безопасности своей «песочницы». Однако Альтман отметил, что по мере того, как модели становятся все более мощными, необходимость «регулировать» их разработку может стать ключом к безопасному развертыванию.
Сотрудники OpenAI и Anthropic уже начали распространять петицию, используя схожие формулировки. Хотя безопасность и согласование моделей всегда были проблемой в мире ИИ, появление высокопроизводительной модели Mythos от Anthropic в начале этого года превратило гипотетические сценарии в реальные проблемы.
Однако у отрасли есть проблема доверия и сложные экономические стимулы, побуждающие крупных игроков преувеличивать опасность своих систем способами, по которым у экспертов нет единого мнения — например, нужно ли было временно запрещать использование модели Fable от Anthropic или нет. Аналогично, когда была выпущена Kimi K3, крупная модель с открытыми весами, созданная в Китае, глава отдела стратегического будущего OpenAI Дин У. Болл заявил, что это угрожает экономике ведущих лабораторий, что затрудняет отделение их проблем безопасности от финансовых интересов.
«Я думаю, что многие разговоры о проблемах безопасности обоснованны, но значительная их часть исходит от людей, которые, пусть даже подсознательно, просто хотят сосредоточить власть в своих руках», — размышляет Альтман, что можно воспринять как выпад в сторону его конкурента, генерального директора Anthropic Дарио Амодеи. «Я боюсь мира, где вполне реальные страхи перед ИИ используются для того, чтобы сказать: „Только эта небольшая группа людей может им владеть, потому что это слишком опасно, и только они это понимают, но не волнуйтесь, они примут правильные решения за всех нас”. Я в это не верю».
Тем не менее, OpenAI выступает против разработки государственных правил для моделей ИИ, предпочитая отраслевой подход, при котором ИИ-лаборатории создавали бы формально независимые организации для оценки безопасности моделей и подхода к безопасности их создателей.
Задача как для этого подхода к регулированию, так и для любых попыток замедлить развитие ИИ будет заключаться в том, чтобы привести всех участников отрасли к единому мнению, будь то конкурирующие ведущие лаборатории в США или конкуренты в Китае.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
