Человечество не раз оказывалось в положении ученика перед лицом искусственного интеллекта.
Когда-то шахматы считались исключительно человеческой деятельностью, игрой, слишком сложной для освоения машиной. Однако поражение Гарри Каспарова от IBM Deep Blue в 1997 году развеяло это заблуждение. Менее чем через двадцать лет AlphaGo от DeepMind обыграла Ли Седоля в го — древнюю игру, которая на порядки сложнее шахмат. Но люди продолжали думать: неужели компьютеры никогда не смогут писать стихи или настолько свободно владеть человеческой речью, что мы будем принимать их за сознательных существ? И снова ошибались.
Теперь математика — область, которую часто называют вершиной человеческого интеллекта — стала последним павшим бастионом.
По крайней мере, так считает Тристан Бакмастер, профессор математики из Нью-Йоркского университета, который на этой неделе оказался в центре ожесточенного спора, связанного с OpenAI, математической задачей, ставившей в тупик его научное сообщество в течение девяноста лет, и, возможно, даже с самим будущим научных исследований. В интервью Австралийской радиовещательной корпорации (ABC) Бакмастер посетовал, что ИИ стал настолько способен решать сложные математические задачи, что роль математиков-людей навсегда изменилась и уменьшилась. По мнению Бакмастера, Рубикон перейден, и его область теперь сталкивается с неопределенным будущим, поскольку компании, занимающиеся ИИ, соревнуются друг с другом в решении давних проблем, над которыми математики-люди когда-то трудились годами.
«Я думаю, это бессмысленно, — сказал Бакмастер ABC. — Как будто игра окончена». Тревожные слова от уважаемого профессора, если вы студент, изучающий математику.
Краткий обзор
Скандал вокруг OpenAI разразился во вторник, когда компания объявила в своем блоге, что решила проблему существования и гладкости Навье — Стокса, одну из «Проблем тысячелетия», которые считаются самыми сложными нерешенными загадками в математике, каждая из которых имеет приз в 1 миллион долларов за первое правильное решение. Перед публикацией своего результата OpenAI связалась с Бакмастером, который, по слухам, добился прорыва в другой задаче, связанной с Навье — Стоксом, в сотрудничестве с другим математиком по имени Левент Алпоге.
В ходе своей работы они использовали несколько систем ИИ, включая Codex от OpenAI. (Математические способности LLM глубоко впечатлили Бакмастера: «Это момент Deep Blue — Каспаров», — написал он в своем заявлении накануне публикации решения OpenAI для Навье — Стокса.) Узнав о подходе OpenAI к решению задачи Навье — Стокса, Бакмастер заподозрил, что его и Алпоге журналы Codex были использованы компанией. По словам Бакмастера, OpenAI предложила два варианта разделения заслуг за решение задачи Навье — Стокса, один из которых предусматривал публикацию его результатов вместе с результатами компании, но с удалением имени Алпоге. Алпоге работает в Anthropic, но его сотрудничество с Бакмастером было исключительно в качестве независимого исследователя. Бакмастер отказался от обоих предложений.
Этот эпизод вызвал широкое возмущение в профессиональном сообществе Бакмастера. В открытом письме, опубликованном в среду, группа нынешних и бывших математиков Калифорнийского технологического института написала, что «компании, занимающиеся ИИ, похоже, руководствуются нездоровым инстинктом заявлять права на определенные результаты раньше конкурентов любой ценой, независимо от сопутствующего ущерба для математического понимания».
Представитель OpenAI сообщил ABC, что компания «может категорически заявить, что невозможно, чтобы запросы доктора Бакмастера в Codex за последние два месяца каким-либо образом повлияли на систему, включая обучение». Ранее Бакмастер заявил, что спрашивал компанию о том, могли ли его и Алпоге работы быть использованы во время обучения модели, и не получил ответа. Ранее на этой неделе OpenAI сообщила репортерам, что не может исключить, что использование Бакмастером и Алпоге Codex помогло улучшить их модели.
Ни OpenAI, ни Бакмастер немедленно не ответили на запросы Gizmodo о комментарии.
Проверка реальности
Вполне возможно, что Бакмастер несколько поторопился, заявляя, что «игра окончена» для математиков.
У него, вероятно, была напряженная неделя, даже без разговоров о неминуемом апокалипсисе, вызванном ИИ, поэтому его мрачный взгляд вполне понятен. Стоит также помнить, что неспособность человечества точно предсказывать будущее работает в обе стороны: иногда мы чрезмерно оптимистичны, что нас никогда не победят машины, а иногда — наоборот. На протяжении всей истории развитие новых преобразующих технологий вновь и вновь вызывало некоторую тревогу среди академического сообщества, и иногда эти опасения оказывались преувеличенными. Изменения, происходящие под влиянием ИИ — не только в математике, но и практически во всех других областях — происходят, возможно, гораздо быстрее, чем любая предыдущая технологическая революция. Так что, опять же, некоторая тревога вполне естественна.
Но еще один урок из недавней истории заключается в том, что даже когда машины побеждают нас в чем-то, будь то шахматы или го, люди не просто отказываются от этого. Они продолжают играть ради удовольствия. Даже если ИИ в будущем будет формулировать новые математические доказательства быстрее, чем мы сможем успеть за ними, маловероятно, что люди, со всем их безграничным любопытством, просто перестанут заниматься математикой или учить ей своих детей.
Это, конечно, при условии, что мы все переживем бум ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
