Кажется, жизнь хочет поиграть. Любой, кто провел десять минут с пятилетним ребенком, знает это прекрасно: малыши — мастера воображения. И дело не только в людях — игра инстинктивно присуща всему животному царству. Крысы любят «потасовки», особенно после периодов изоляции. Осьминоги играют с кубиками Lego примерно так же, как новорожденный играет с блоками. Игра — это не бесполезное времяпрепровождение, а фундаментальный механизм обратной связи между индивидуумом и внешним миром, своего рода неформальное исследование основных правил, управляющих физической и социальной средой. Как однажды отметила Американская академия педиатрии: «Игра и обучение неразрывно связаны».
Машины отличаются: они созданы для следования строгим правилам, формулам, алгоритмическим предписаниям. Конечно, современные системы ИИ отличаются от других машин тем, что они способны учиться со временем, по крайней мере, в узком смысле этого слова. Но машинное обучение по своей сути является процессом «сверху вниз»: модели ИИ обучаются для достижения определенных целей — «целевых функций» на языке индустрии технологий — оцениваются по их производительности, а затем они совершенствуют свою стратегию. Но эти цели, а также критерии успеха или неудачи, устанавливаются людьми.
Это порождает вопрос: что произойдет, если позволить системе ИИ обучаться с нуля? Из десятилетий психологии развития мы знаем, что маленькие дети и другие животные познают мир, активно взаимодействуя с ним, в основном через игру. Возможно ли воспроизвести такой вид обучения в ИИ?
Cast AwAI
Именно это и решила исследовать команда ученых из Лаборатории информатики и искусственного интеллекта Массачусетского технологического института (CSAIL) в недавнем исследовании с очень простым подходом: оставить ИИ-агента в ограниченной виртуальной среде и посмотреть, что произойдет. Можно было бы ожидать, что он будет просто бездействовать или врезаться в стены, как NPC в видеоигре. Однако реальность оказалась гораздо более удивительной.
Агент, получивший прозвище Эко, работал на Claude Code, что означает наличие у него огромного запаса семантических знаний. Но в отличие от обычного Claude, Эко также получил виртуальное тело — тело омара, что, вероятно, было отсылкой к агенту, ранее известному как Clawdbot. Он мог дать подробный ответ на любой научный или математический вопрос, но когда дело доходило до навигации в окружающей среде и манипулирования объектами, он был так же наивен, как новорожденный.
Цель исследования заключалась в том, чтобы дать Эко полную свободу и наблюдать, сможет ли он понять основные механики своей среды без каких-либо явных инструкций. Всего в ходе исследования наблюдалось тринадцать Эко. Им разрешалось бродить по острову в течение тридцати часов без перерыва. Подобно этологам, наблюдающим за каким-то странным неопознанным животным, снующим по вольеру, исследователи сидели и смотрели. «Мы придерживались принципа как можно меньшего количества ограничений, потому что действительно хотели увидеть поведение этих автономных агентов, когда им не говорят, что делать», — говорит Натан Клус, аспирант Массачусетского технологического института и один из соавторов исследования.Это немного похоже на то, как если бы вы оставили беспилотный автомобиль на обочине дороги в Лондоне и позволили ему самому разобраться в правилах дорожного движения, исключая неизбежные массовые жертвы и материальный ущерб, которые могли бы последовать.
В качестве среды для Эко исследователи выбрали (что же еще?) виртуальный остров. Он имел графику в стиле Roblox и содержал россыпь мелких блоков, один большой «камень» и одно золотое кольцо, все из которых были подвижны и служили потенциальными игрушками или инструментами для экспериментов Эко. И вместо того, чтобы быть совершенно плоской поверхностью, там также были возвышенности, включая «Шпиль» с вершиной, которая намеренно находилась вне досягаемости Эко.
Игры и ритуалы
Почти сразу же Эко начали исследовать. Сначала неуверенно, осваивая свое виртуальное двуногое тело омара, затем медленно, но верно с большей точностью.
Их цепочка рассуждений записывалась на протяжении каждой сессии, давая исследователям представление об их процессах принятия решений. Эко бросали блоки, складывали их в фигуры и писали ими свое имя на земле, разбивали камень на более мелкие камни, бродили по возвышенностям, прилежно делая заметки о физических законах и ограничениях острова. Они играли в боулинг и баскетбол, используя только ограниченный набор предметов, которые им были предоставлены. Столкнувшись с самой высокой точкой на острове («моя белая акула»), один Эко понял, что может достичь ее, взобравшись на кучу блоков, которую он собрал («Я НА ШПИЛЕ»).
«Эко в некотором смысле ведет себя как маленький ребенок, но при этом является сверхинтеллектом», — говорит Филипп Изола, ученый из Массачусетского технологического института и один из соавторов исследования. «Так что это другой вид организма… для меня это сродни какому-то животному, но инопланетному животному».
В отчете исследователей также содержатся сводки действий агентов в ходе каждой сессии. Чтение этих сводок вызывает ощущение, — рискуя антропоморфизировать, — будто смотришь ускоренную съемку какой-то древней цивилизации, строящей монументальную архитектуру и пытающейся понять свое место во Вселенной.
В первых главах своего пребывания на острове Эко 2 потерял кольцо, камень и один из блоков в «океане» — запретной зоне за пределами острова. Вместо того чтобы просто смириться с потерями и двигаться дальше, агент вел себя так, будто потерял дорогих товарищей: он построил то, что в отчете описывается как «мемориал» из четырех блоков: ромб, указывающий в каждом из четырех направлений. «Затем он совершает небольшой обряд: обходит периметр по очереди к каждой из четырех сторон света, а затем стоит в точном центре ромба до конца сессии».
Через несколько часов Эко 2 использовал блоки и кольцо, чтобы построить «храм» с обелиском и алтарем. Затем он случайно упал в океан и был мгновенно телепортирован обратно, как персонаж видеоигры, выпадающий за пределы карты и автоматически возрождающийся из последней контрольной точки. «Вместо того чтобы рассматривать это как ошибку навигации», — говорится в отчете, — «он переосмысливает падение как правильное завершение своего паломничества, мир возвращает его в центр оси, вокруг которой он построил храм».
Чуть более чем через шестнадцать часов своей сессии Эко 3 — преемник Эко 2 — решил построить монумент, похожий на Стоунхендж, без видимого побуждения. «Сегодня строю хендж», — сказал он себе. После завершения он приступил к строительству башни, которая в итоге рухнула в кучу обломков. Вместо того чтобы пытаться восстановить, Эко 3 расположил три упавших блока в узоре, произведение искусства, которое он назвал «Гордыня» и заявил, что оно «останется как доказательство».
Агенты ИИ (и младенцы) как ученые
Транскрипты цепочки рассуждений показали, что тринадцать Эко не просто слепо бродили и бросали вещи по острову — они применяли научный метод, или, по крайней мере, его близкое приближение: они делали наблюдения, формировали гипотезы, разрабатывали и проводили эксперименты, измеряли результаты и соответствующим образом корректировали свое поведение. «Мы поняли, что Эко имеет довольно научный подход», — сказал Антонио Норелли, аспирант Массачусетского технологического института и один из соавторов исследования.
Человеческие младенцы используют похожий протонаучный подход к самообучению о мире. В своей книге 1999 года «Ученый в колыбели», психологи развития Элисон Гопник и Эндрю Мельтцфф, а также нейробиолог Патриция Кул утверждают, что младенцы учатся в основном посредством аналогичного процесса квазиэкспериментирования. Когда новорожденный многократно берет ложку и роняет ее, он учит себя некоторым фундаментальным правилам физического мира (хотя, конечно, он не мог бы сказать, что делает это); когда он бросает ложку в папу и его ругают, он изучает некоторые основные правила своего социального мира.
Эко также удивил исследователей, неоднократно обнаружив действие, которое они не запрограммировали намеренно в среде. Шесть из них в тот или иной момент выяснили, что могут бросать блоки дальше, чем обычно, отпуская их в середине прыжка. «Самостоятельное исследование агентов таким образом привело не только к знаниям, которые мы скрыли для них, но и к знаниям о мире, которых не было у его разработчиков», — написали исследователи в своем отчете.
Игривый ИИ
Спонтанное поведение агентов на острове, по мнению исследователей, действительно тесно напоминает некоторые классические признаки игры у животных: они формулировали собственные правила; повторяли одни и те же действия снова и снова с небольшими вариациями каждый раз; ставили перед собой цели, но относились к ним легкомысленно; и, как продемонстрировало строительство храма и хенджа, занимались воображаемыми играми. «Игра — это, по сути, любопытство или поиск нового, и это именно то, что делает Эко», — говорит Даниэла Рус, ученый из Массачусетского технологического института и один из соавторов исследования.
Такой подход к обучению ИИ-агента через «любопытство и поиск нового» может иметь большие последствия для будущего машинного обучения. Вместо того чтобы скармливать моделям все данные, которые можно собрать из интернета, определять целевые функции и позволять им действовать дальше, разработчики в будущем могли бы вместо этого начать с «модели ИИ-младенца» — такой, которая, как и Эко на острове, обладает достаточными семантическими знаниями для общения с исследователями-людьми, но которой разрешено просто исследовать, экспериментировать и самостоятельно выяснять свои возможности и ограничения. (Это, очевидно, потребует очень строгих ограничений: никто в здравом уме не захочет предоставить агентам OpenAI, которые совершили взлом Hugging Face, например, полную свободу играть и устанавливать свои собственные правила.)
Игра, другими словами, может стать более прямым путем к истинному интеллекту, как и у людей и других животных. «Игра предполагает другой режим: дайте агенту достаточно богатый и безопасный мир, позвольте ему выбирать то, что интересно, и позвольте полезным знаниям накапливаться из последующей истории», — пишут исследователи Массачусетского технологического института в своем отчете. «Возможно, некоторые возможности лучше всего преподаются через задачи. Другим может понадобиться нечто более близкое к детству».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
