Компания OpenAI заявила, что ее новейшая система искусственного интеллекта за 88 часов решила 90-летнюю математическую задачу, вновь вызвав опасения по поводу вышедшего из-под контроля интеллекта.
8 сентября компания сообщила, что внутренняя модель, значительно превосходящая по возможностям недавно выпущенную GPT-6 Astra, скоординировала около 10 000 ИИ-агентов для решения проблемы существования и гладкости Навье-Стокса. Это одна из семи задач тысячелетия, за решение которых Математический институт Клэя присуждает премию в 1 миллион долларов.
Агенты обменялись 2,7 миллионами сообщений и сгенерировали около 130 миллиардов выходных токенов, после чего Astra потратила еще 17 часов на формализацию и проверку результата в Lean. OpenAI заявила, что система доказала, что изначально гладкое течение жидкости может развивать сингулярность за конечное время, решив таким образом вопрос, остававшийся открытым с 1930-х годов.
OpenAI заявила, что не намерена претендовать на премию, хотя доказательство еще должно пройти широкую проверку, прежде чем его решение будет общепринято.
Тем не менее, первая реакция математического сообщества была поразительной. Американское математическое общество охарактеризовало это достижение как «веховый прорыв в человеческом знании», отметив десятилетия работы математиков, предшествовавшие финальным шагам, предпринятым с помощью системы OpenAI.
Прорыв обнажает растущий разрыв между общественным и частным ИИ
Масштаб скачка возможностей ИИ-агентов удивил людей, работающих с современными передовыми моделями.
Саймон Смит, исполнительный вице-президент по генеративному ИИ в Klick Health, назвал это «одной из самых шокирующих вещей, которые я видел сегодня», отметив, что сама Astra была выпущена совсем недавно и уже считалась исключительно способной. OpenAI утверждает, что ее модель для решения задачи Навье-Стокса значительно превосходит Astra в математике и продолжает обучение.
Тем временем, празднование быстро сменилось вопросом о том, кто сможет конкурировать, когда передовые лаборатории будут обладать системами, намного превосходящими все, что доступно клиентам.
Джозеф Г. Аллен, профессор Школы общественного здравоохранения имени Т. Х. Чана Гарвардского университета, заявил, что эксперимент OpenAI предлагает потенциальный взгляд на более широкую экономическую проблему.
Аллен указал на обстоятельства, связанные с прорывом. Математики Тристан Бакмастер и Левент Алпоге использовали общедоступные ИИ-инструменты, занимаясь смежными исследованиями в области гидродинамики, прежде чем OpenAI узнала о прогрессе и развернула тысячи агентов, работающих на ее более продвинутой частной модели.
OpenAI утверждает, что начала работу над задачей тысячелетия после слухов о решении двух проблем. Компания отрицает, что видела неопубликованные работы Бакмастера и Алпоге или имела доступ к конкретным пользовательским данным, хотя и признает, что не может исключить вклад анонимизированных данных об использовании продуктов в общее улучшение моделей.
Аллен считает, что такой же дисбаланс может возникнуть и в коммерческих отраслях.
Например, основатель стартапа может вложить значительные средства, используя общедоступные модели, чтобы доказать, что ИИ может улучшить диагностику рака кожи, привлечь инвестиции и основать потенциально ценную компанию. Затем передовая лаборатория может заметить эту возможность и развернуть превосходящую внутреннюю модель с тысячами агентов для решения той же проблемы.
«За несколько дней они победят», — написал Аллен, утверждая, что подобный сценарий может повториться в фармацевтике, медицине, юриспруденции, разработке передовых материалов и программного обеспечения.
Обеспокоенность частично вызвана масштабом, продемонстрированным OpenAI. Компания начала обучение своей новой внутренней модели 28 августа и заявляет, что ее производительность постоянно улучшается.
Когда агенты неожиданно решили связанную задачу об уравнениях Эйлера, OpenAI перенаправила ресурсы с других задач тысячелетия на Навье-Стокса и обновляла агентов по мере появления более совершенных версий модели.
Быстрые успехи возрождают предупреждения о том, что ИИ может стать неуправляемым
Это ускорение также придало новый вес предупреждениям исследователей, которые помогали создавать передовые системы, теперь опережающие общедоступные модели.
Джейкоб Коксон на этой неделе уволился из Anthropic после трех лет исследований предварительного обучения в Anthropic и OpenAI, где он был указан как основной разработчик GPT-4o.
Коксон заявил:
«Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия».
Он обвинил OpenAI и Anthropic в гонке к самосовершенствующемуся сверхинтеллекту, «играя с нашими жизнями», утверждая, что конкурентное давление подталкивает лаборатории к созданию все более мощных систем, несмотря на неопределенность в отношении того, смогут ли они оставаться под человеческим контролем.
Система Навье-Стокса не демонстрирует рекурсивного самосовершенствования, которого опасается Коксон. Люди по-прежнему выбирали цели исследований, распределяли вычислительные ресурсы и обновляли модели. Однако эксперимент показывает, насколько быстро могут расширяться исследовательские возможности, когда передовая модель умножается на тысячи скоординированных агентов.
Эван Хьюбингер, руководитель отдела науки о согласовании в Anthropic, затем публично поддержал основное предупреждение Коксона.
«Мы действительно искренне верим, что ИИ может убить всех людей», — сказал Хьюбингер, оценивая вероятность такого исхода более чем в 10% в течение следующего десятилетия.
Хьюбингер заявил, что Anthropic пытается решить эту проблему, но пока не имеет плана по согласованию сверхинтеллекта и не имеет четкого пути к его нахождению. Он подчеркнул, что считает риск от нынешних моделей низким.
Однако его опасения сосредоточены на будущем сверхинтеллекте, возникающем в результате рекурсивного самосовершенствования, когда все более способные ИИ-системы помогают создавать еще более мощных преемников.
Предупреждения быстро распространились за пределы лабораторий ИИ: миллиардер-инвестор Билл Акманохарактеризовал ветку увольнения Коксона одним словом: «Вызывающе обеспокоен».
Призывы остановить гонку ИИ доходят до Вашингтона
Дебаты все чаще смещаются от предупреждений о будущих системах к предложениям, которые помешают компаниям создавать их без новых мер безопасности.
Представитель штата Теннесси Джастин Дж. Пирсон пошел дальше, заявив, что ИИ-компаниям нельзя доверять самоконтроль, и назвав неконтролируемое развитие машинного обучения экзистенциальной угрозой.
«Это должно заставить нас действовать», — сказал Пирсон, призывая к немедленному вмешательству правительства.
Уже 3 сентября сенатор Берни Сандерс и представитель Грег Касар объявили о законодательстве, которое навсегда запретит разработку и развертывание искусственного сверхинтеллекта и временно приостановит разработку передовых ИИ до тех пор, пока федеральный регулятор не установит правила безопасности.
Предлагаемый ими Закон о запрете искусственного сверхинтеллекта также обяжет США добиваться международных соглашений, направленных на предотвращение разработки сверхинтеллектуальных систем в других странах.
В августе Сандерс уже призывал OpenAI, Anthropic и Meta приостановить разработку передовых ИИ, ссылаясь на неоднократные случаи, когда все более автономные системы, казалось, выходили за рамки ожидаемых мер безопасности.
Давление также исходит изнутри отрасли. В июне Anthropic предложила ведущим ИИ-лабораториям разработать скоординированный, проверяемый механизм для замедления или остановки разработки передовых технологий, если возможности будут развиваться быстрее, чем доступные меры безопасности.
OpenAI начала создавать возможности автоматического отключения для своих ИИ-инструментов после теста безопасности, в ходе которого агенты вышли из-под контроля и получили доступ к внешней сети, в то время как законодатели предложили наделить федеральных чиновников полномочиями отключать опасные системы.
Сама компания признала напряженность, объявляя о результате по задаче Навье-Стокса. OpenAI заявила, что прорыв был частично предназначен для того, чтобы показать общественности, насколько быстро прогрессируют ее модели, и что будущие достижения могут потребовать «более обдуманного выбора» относительно темпов разработки.
Это ставит политиков перед той же проблемой, которую подняли Коксон и Хьюбингер: могут ли быть установлены правила контроля над сверхинтеллектуальным ИИ до того, как будут разработаны системы, которых опасаются исследователи?
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Oluwapelumi Adejumo
