Однако OpenAI не соответствовала этим стандартам, особенно в том, что касается необходимости человеческого понимания математического результата, на котором настаивали математики. Это вызывает особую обеспокоенность после публикации новой статьи, освещающей расхождения между объяснением на естественном языке и формально выраженным решением миллионной проблемы, якобы решенной моделями OpenAI.
Консультативная группа по математике и искусственному интеллекту (Advisory Group on Mathematics and Artificial Intelligence, AGMAI), базирующаяся в Институте перспективных исследований Принстонского университета, состоит из девяти видных исследователей из различных учреждений по всему миру.
В конце сентября организация опубликовала руководящие принципы для передовых лабораторий, решающих математические задачи. В заявлении по последнему набору доказательств AGMAI отметила, что «в конечном итоге математическое сообщество должно оценить, в какой степени наши рекомендации были успешно выполнены».
Однако первой просьбой организации было «прекратить тестирование сложных математических задач на проприетарных моделях». В релизе OpenAI прямо указано, что она оценивает свои проприетарные модели, используя открытые исследовательские задачи в математике.
Консультативная группа не ответила на запрос TechCrunch о более тщательной оценке последнего релиза доказательств OpenAI. Лаборатория явно следовала некоторым из ее принципов, включая скорейшее обнародование результатов и предоставление информации о том, как модели пришли к своим выводам. Но не всем: только десять из 719 рукописей включали описание цепочки рассуждений модели.
Для статей, которые люди не понимают, математики предложили формализовать доказательства — но только 42% доказательств, опубликованных OpenAI, не прошли этот процесс.
В конечном итоге по-прежнему неясно, берет ли OpenAI на себя «ответственность за обеспечение человеческого понимания» при публикации своих доказательств, в соответствии с принципами AGMAI. AGMAI предложила OpenAI помочь финансировать работу математиков, которые потребуются для придания решениям лаборатории реального смысла.
«Задачи решаются автономно ИИ-промптерами, которые не заинтересованы в более широкой области после того, как их первоначальная цель «решена», и недостаточно хорошо понимают выходные данные ИИ, чтобы отвечать на вопросы о результате, выступать с докладами или иным образом взаимодействовать с остальной частью области», — написал в социальной сети после релиза Теренс Тао, видный математик, критиковавший подход OpenAI.
Эта проблема иллюстрируется статьей, опубликованной на этой неделе математиками Кембриджского университета и Лондонского Королевского колледжа, которая ставит под сомнение подход передовых лабораторий к решению этих задач.
Когда модели ИИ решают математические задачи, они сначала создают объяснение на «естественном языке», а затем пытаются выразить этот результат на Lean — языке программирования, который теоретически подтверждает точность доказательства путем его компиляции в виде кода.
Однако могут возникнуть проблемы с тем, как модели переводят свои доказательства на естественном языке в код; эта статья документирует по крайней мере два расхождения между доказательством на естественном языке и кодом Lean, лежащим в основе решения, предложенного OpenAI для задачи, вытекающей из уравнений Навье — Стокса, описывающих сложное поведение жидкостей.
Эти расхождения не обязательно опровергают какое-либо из решений, но они ставят под сомнение возможность полагаться на модели для формализации собственных решений без участия человека. Это одна из причин, по которой AGMAI попросила OpenAI «включить машиночитаемые метаданные, коррелирующие естественный язык и формальные артефакты», чего передовая лаборатория не сделала с этими релизами.
«Из-за явления неточных переводов — как подчеркивается в этой статье — доказательствам на естественном языке от OpenAI и другим автоматически формализованным доказательствам на Lean не следует prima facie доверять без того же процесса рецензирования и проверки, которым подвергаются другие доказательства», — заключают авторы статьи «Потерянные в переводе».
Математики подчеркивают, что когда люди открывают новые результаты, они берут на себя ответственность за них и взаимодействуют с более широким сообществом через статьи, доклады и семинары. Этот процесс углубляет понимание решений, находит стратегии, которые могут быть использованы для решения других проблем, и позволяет применять новые знания в практических областях.
Когда модели предлагается решить сложную задачу, и она выдает решение, «в момент публикации отсутствует человеческое понимание, и теперь начинается работа», — сказала TechCrunch профессор математики Гарвардского университета Мелани Вуд.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
