Чтобы значительно расширить возможности агентов в совершении научных открытий, DARPA намерена улучшить межроботическое сотрудничество путем разработки «науки об ИИ-коммуникации», которая поможет моделям работать сообща для выработки более удачных идей.
Исследовательское подразделение Пентагона во вторник объявило о программе «Математика усиления агентичной коммуникации» (MATHBAC) и опубликовало приглашение, адресованное исследователям, заинтересованным в развитии «фундаментальной математики, теории систем и теории информации, необходимых для обеспечения/ускорения и понимания научного открытия автономными агентами и коллективами агентов». Им предлагается подать заявки на получение грантов на сумму до 2 миллионов долларов в рамках Фазы I финансирования двухфазного проекта продолжительностью 34 месяца.
Обоснование программы DARPA прямолинейно: разработка ИИ привела к поразительным достижениям, но большая часть этих достижений по-прежнему управляется эвристически — это импровизированный процесс проб и ошибок, ориентированный на результаты, а не на полное понимание причин их возникновения. Та же проблема применима и к коммуникации между агентами: без того, что DARPA называет «строгой математической основой» для понимания того, как агенты общаются и координируются, эти взаимодействия останутся неэффективными, непоследовательными и трудными для обобщения в различных областях.
«В то время как ИИ превосходно ориентируется в пространствах решений, он с трудом систематически исследует пространства гипотез, которые необходимы для генерации преобразующих и обобщаемых научных прозрений», — пояснили в DARPA в анонсе программы. «Именно скорость открытия этих важных новых гипотез MATHBAC стремится систематически ускорить, облегчая коммуникацию ИИ для обеспечения прорывов в эффективности агентичного научного рассуждения».
Первая фаза MATHBAC будет посвящена разработке математического аппарата для понимания и проектирования протоколов агентичной коммуникации и улучшения содержания этих сообщений. Это означает, что проект касается не только того, как общаются агенты ИИ, но и того, о чем они общаются.
«Помимо оценки и оптимизации протоколов взаимодействия, MATHBAC также сосредоточится на особенностях содержания агентичной коммуникации», — отметили в DARPA, описывая вторую техническую область проекта (первая — это сама математика, лежащая в основе протоколов связи агентов).
Эта вторая техническая область будет включать изучение содержания взаимодействий между агентами с «акцентом на открытие „принципов“ (законов, корреляций) из данных — извлечение компактных, обобщаемых „крупиц“, которые должны стать частью общего модуля знаний („памяти“) сотрудничающих агентов», — объясняется в анонсе.
По сути, вторая техническая область пытается выяснить (на первой фазе MATHBAC), может ли группа агентов ИИ, обученных в конкретных научных областях, вывести общие научные принципы, законы или корреляции из набора данных, которые предполагают обобщаемое правило, но не формулируют его явно.
В качестве примера DARPA привело в качестве сложной цели проекта (которую обычно считают почти недостижимой) задачу начать с «основанного на данных переоткрытия таблицы Менделеева для атомов и перейти к „многомерному аналогу“ периодической таблицы для молекул».
Будем надеяться, что это сработает
«В случае успеха MATHBAC коренным образом изменит „способы ведения дел“, будь то научное открытие или обучение», — заявили в DARPA в анонсе. Они правы: это будет непростой проект — DARPA даже указало, что не будет рассматривать заявки на исследования, «которые в основном приводят к инкрементальным улучшениям существующей практики», что означает, что в рамках программы они ожидают действительно революционных скачков в науке об ИИ, чтобы считать ее успешной.
Помимо проблем, связанных с первой фазой проекта, вторая фаза требует от исследователей MATHBAC пойти еще дальше и сосредоточиться на создании инструментов ИИ, «которые обеспечат систематическую эволюцию/изобретение новой науки».
Эта цель будет достигнута, по словам DARPA, путем направления агентов ИИ на самоэволюцию таким образом, чтобы максимизировать их способность решать научные задачи с использованием ранее определенных протоколов связи. DARPA отметило, что координация агентов ИИ на том уровне, на который они надеются, может потребовать совершенно нового доменного языка, уникального для агентов ИИ, что будет исследовано на второй фазе программы.
«До сих пор эволюционное давление на ИИ и агентичные платформы исходит от эволюционного давления на людей, участвующих в их разработке. MATHBAC хочет перенести это давление на самих агентов и их навыки сотрудничества», — объяснило агентство. «MATHBAC будет систематически исследовать, понимать и разрабатывать лучшие протоколы, содержание и, возможно, даже язык совместной коммуникации агентов ИИ».
Предложения по MATHBAC должны быть поданы до 16 июня, а запуск программы запланирован на сентябрь этого года. Ожидается несколько получателей грантов. DARPA не ответило на вопросы для этой статьи. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Brandon Vigliarolo
