Математики устанавливают определенные рамки. Сегодня 16 математиков, проконсультировавшись с коллегами и соответствующими организациями, опубликовали Лейденскую декларацию об искусственном интеллекте и математике.
Декларация, на момент публикации которой число подписантов превысило 130 человек, очерчивает ключевые проблемы, которые несет широкое использование ИИ для математических исследований, а также содержит рекомендации для отдельных исследователей, организаций, правительств и коммерческих предприятий.
«Я не ожидаю, что каждый коллега согласится с каждым предложением декларации», — написал Кристоф Зоргер, генеральный секретарь Международного математического союза (ММС), в колонке, посвященной одобрению декларации со стороны ММС. «Она призывает математическое сообщество отреагировать таким образом, чтобы это было прозрачно и руководствовалось ценностями нашей дисциплины».
«Достичь консенсуса по полному тексту было непросто, и этот процесс испытал терпение каждого», — сообщил Gizmodo Родриго Очигаме, антрополог ИИ из Лейденского университета в Нидерландах, участвовавший в подготовке декларации. «Мы пошли по трудному пути: мы решили опубликовать текст только тогда, когда достигли полного консенсуса, после сбора обширных отзывов от широкого круга людей и детального обсуждения каждого пункта».
Изложение сути
11-страничный документ появился по итогам семинара, проведенного в сентябре прошлого года. Важно понимать, что декларация не осуждает использование ИИ в математических исследованиях. Скорее, она ставит под сомнение, что на самом деле означает «ответственное» использование ИИ в контексте таких ценностей, как точность, прозрачность, а также вес человеческого суждения и творчества, стоящих за математическими прорывами.
В декларации говорится, что бесконтрольное продвижение ИИ в математике ставит «автономию математики под угрозу». Например, в декларации утверждается, что сгенерированные ИИ доказательства трудно интегрировать в устоявшиеся процедуры выдвижения идей, представления и проверки как формальных, так и неформальных аргументов в математике. В ней также содержится предупреждение о том, что когда такие результаты продвигаются через неформальные пресс-релизы или посты в блогах без строгой проверки, математикам трудно исправить уже распространенную информацию, если в работе ИИ обнаружатся существенные ошибки.
«Наблюдается спешка с объявлением результатов, которые часто не проверяются или не контекстуализируются должным образом со стороны ряда стартапов в области математического ИИ», — сообщил Gizmodo Дэниел Литт, математик из Университета Торонто, не участвовавший в подготовке декларации. «В целом, эти результаты в основном верны и не очень интересны. Конечно, у компаний есть и финансовый стимул преувеличивать их значимость».
Еще одна серьезная проблема заключается в том, что агенты ИИ сканируют литературу — например, arXiv — для выработки своих ответов, но редко должным образом цитируют человеческий труд, на котором они основываются. Джим Портгис, математик из Технологического университета Эйндховена в Нидерландах, сообщил Scientific American, что, хотя репозитории вроде arXiv призваны быть доступными, технологические компании часто уклоняются от предоставления ключевых деталей о том, как ИИ пришел к своим выводам.
План действий
Ключевые рекомендации декларации включают раскрытие информации об использовании ИИ в исследованиях, ужесточение процессов рецензирования и инвестиции в общедоступную вычислительную инфраструктуру для выравнивания условий с крупными технологическими фирмами. Декларация вновь подчеркивает, что больше внимания следует уделять людям — независимо от того, используют ли они ИИ в своем взаимодействии с математикой.
«Математика является и всегда должна оставаться глубоко человеческим занятием», — заявила Ульрике Тилльманн, вице-президент ММС, в своих комментариях об одобрении.
Среди рекомендаций Очигаме сообщил Gizmodo, что самым простым для реализации пунктом может стать раскрытие информации об использовании инструментов и, как следствие, разработка более четких инструкций по раскрытию информации об ИИ в математике. Кроме того, он добавил, что регулирование индустрии ИИ «затрагивает гораздо больше, чем просто математику», поэтому этому также следует отдать приоритет.
Декларация «безусловно, своевременна, и многое из ее содержания перекликается с моими собственными мыслями», — сказал Литт, который также был среди экспертов, консультировавших OpenAI по недавнему опровержению давней математической гипотезы. «Я думаю, что [ИИ] — это очень важная и мощная технология, которая может помочь нам во многих интересных математических задачах… [но] я не думаю, что инструменты сделают это сами по себе».
Зоргер добавил, что реакция математического сообщества «уже показывает, почему декларация полезна: она побуждает к размышлениям и обсуждению того, что мы хотим защитить, чем готовы пожертвовать и где нам нужна большая ясность».
Действительно, основная цель декларации — инициировать серьезные дискуссии о влиянии ИИ на математику — область фундаментальных исследований, которая, если вдуматься, лежит в основе практически всех аспектов науки. И это продолжится в следующем месяце, когда ведущие математики соберутся в Филадельфии на Международный математический конгресс, проводимый ММС.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gayoung Lee
