OpenAI призывает к созданию международной организации для надзора за разработкой ИИ. И для ее замедления, если это потребуется: «Одной из целей такой организации должно стать обеспечение возможности для мира предпринимать скоординированные действия, включая замедление развития передовых систем, когда это необходимо, чтобы устойчивость общества, безопасность и согласованность могли идти в ногу с прогрессом», — написала компания в сообщении в блоге, опубликованном в понедельник.
Этот меморандум, написанный генеральным директором OpenAI Сэмом Альтманом и главным научным сотрудником Якубом Пачоцки, последовал за аналогичным заявлением главного конкурента OpenAI, компании Anthropic, которая на прошлой неделе заявила, что одностороннее нажатие на тормоз в развитии глобального ИИ «вероятно, было бы хорошей вещью», при условии, что такой шаг возможен.
Обоснование Anthropic основывалось на внутренних свидетельствах того, что они назвали «рекурсивным самосовершенствованием»; то есть модели ИИ, способные обучать следующие, более совершенные версии самих себя, что открывает новые возможности для более быстрого прогресса в этой области, а также новые риски, связанные с потерей контроля со стороны человека.
Возможность такого «взрыва интеллекта» — происходящего как побочный продукт приоритета коммерческих интересов над проблемами безопасности — также была ключевым фактором, стоящим за открытым письмом 2023 года с призывом к шестимесячной паузе в разработке передовых моделей ИИ, которое подписали Илон Маск, «крестный отец» ИИ и лауреат премии Тьюринга Йошуа Бенжио, а также другие громкие имена в сфере технологий.
OpenAI также обратила внимание на потенциал ИИ к самосовершенствованию в своем новом сообщении в блоге. «Мы считаем, что ИИ, занимающийся исследованиями в области ИИ, станет определяющим фактором темпов прогресса в ближайшие несколько лет», — написали Альтман и Пачоцки. К марту 2028 года, продолжили они, значительная часть исследований OpenAI «может проводиться системами ИИ в тандеме с нашими собственными исследователями».
AGI всегда за следующим поворотом
Создание такого «автоматизированного исследователя ИИ», как они написали, в настоящее время является одной из главных целей, над которыми работает OpenAI. Другая цель — «предоставить каждому на Земле личный AGI»… что бы это ни значило.
В индустрии ИИ по-прежнему отсутствует общепринятое определение общего искусственного интеллекта, или AGI. Обычно под ним понимается система ИИ, способная выполнять любую когнитивную задачу как минимум на уровне типичного человеческого мозга, но до сих пор ведутся споры о том, является ли такая система — по крайней мере, построенная на архитектурах, лежащих в основе больших языковых моделей — вообще осуществимой.
В течение многих лет OpenAI представляла это как расплывчатое обещание будущего, что до сих пор было успешной стратегией финансирования. До недавнего времени она была самым дорогим стартапом в мире, пока в прошлом месяце ее не подвинула Anthropic.
Ожидается, что обе компании выйдут на фондовый рынок в этом году, что вызовет новые опасения по поводу того, что фискальные обязательства перед акционерами затмят озабоченность безопасностью, связанную с вышедшим из-под контроля ИИ. Поэтому их призывы к созданию независимой международной организации для регулирования разработки ИИ выглядят как предупреждение, как будто они говорят: Кто-то должен взять бразды правления этим, потому что очень скоро это выйдет из-под нашего контроля.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
