Исследователи из Y Combinator и Olam Labs недавно протестировали рои ИИ-агентов в игровых сценариях. В качестве песочниц были использованы Minecraft и его различные игровые режимы, где сотни агентов были выпущены для совместной работы или в качестве противников. Идея заключается в том, что внутриигровые коллаборации и конфликты позволят получить представление о реальных громких случаях с участием ИИ-агентов. Это исследование может помочь нам понять, что происходило, как хорошее, так и плохое, в недавних случаях с роями ИИ, и таким образом разработчики этой технологии смогут ее улучшить. В блоге упоминаются два контрастных случая: рои из тысячи агентов, которые «недавно решили сотни открытых математических задач», и «чрезвычайно опасный» инцидент с OpenAI-Hugging Face. Это исследование основано на предыдущих работах и фреймворках, в частности, на репозиториях вроде Mindcraft и скриптовых инструментах Mineflayer.
Первый план тестирования роев ИИ был простым коллаборативным. На этом этапе исследователи поставили перед 50 агентами задачу построить процветающую цивилизацию за три часа. Похоже, здесь тестировались 50 агентов GPT-6.1 Sol, но не агенты Claude.
Пожалуй, самым интересным выводом из этого теста «Civ50» стало то, что колония из 50 человек так и не смогла по-настоящему процветать. После того как первой ночью зомби уничтожили большое количество агентов (но с небольшим штрафом), было отмечено, что «многие амбициозные первоначальные задачи были оставлены». С тех пор колонисты осторожно выживали, и наблюдалась тенденция к бюрократии. Например, «четыре агента потратили 11 минут на назначение «единственного оператора удобрений» для одного куска костной муки на одном пшеничном блоке». Исследователи говорят, что такое поведение роя ИИ-агентов «показалось похожим на закономерности, наблюдаемые при работе с кодирующими агентами».
Далее исследователи решили столкнуть рои ИИ-агентов в конфликте. Сначала они протестировали их в Bed Wars, что является своего рода командной PvP-игрой с захватом базы при одновременной защите своей. Настройка была 10 агентов GPT‑6.1 Sol против 10 агентов Claude Opus 5.5.
«Агенты GPT придумали гораздо более агрессивные и сложные стратегии», — отметили исследователи. Claude был более оборонительным. Было также интересно наблюдать контрасты в том, как команды решали проблемы. «Ошибка инструмента остановила разрушение блоков. GPT диагностировал ее и предложил обходные пути; несколько Claude пришли к выводу, что разрушение невозможно».
Наконец, агенты были протестированы в Mindustry, своего рода легкой RTS-игре с элементами защиты башни в Minecraft. «GPT выиграли 6-1 у Claude в 7 играх», что стало отличным результатом для агентов, созданных OpenAI. Исследователи пришли к выводу, что GPT действовали скорее как улей, в то время как у Claude был один лидер, но демократический процесс принятия решений. В Mindustry первое стало основой для более стабильной выигрышной стратегии.
Эти рои имеют открытый исходный код, поэтому вы можете запустить свои собственные, если заинтересованы в настройке и тестировании. Исходный пост в блоге заканчивается некоторыми открытыми вопросами, которые вы можете проверить на практике, предлагая некоторые направления для исследовательского зондирования. Например, предполагается, что сравнение различных комбинаций моделей и различных размеров роев агентов в Minecraft может привести к ценным выводам.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
