Базовой технологией, лежащей в основе большинства широко доступных моделей искусственного интеллекта, являются большие языковые модели (LLM) — форма машинного обучения и обработки языка. Ставка, которую делают большинство компаний, занимающихся ИИ, заключается в том, что LLM, если их обучить на достаточном объеме данных, достигнут чего-то вроде полной автономии для мышления и функционирования способами, схожими с человеческими, — но с еще большим совокупным знанием. Однако, похоже, ставка на бесконечный рост может оказаться не самой выигрышной. В новом исследовании утверждается, что представлено математическое доказательство того, что «LLM не способны выполнять вычислительные и агентские задачи, выходящие за пределы определенного уровня сложности».
В статье, опубликованной исследователями — отцом и сыном Вишалом Сиккой и Варином Сиккой, и которая недавно привлекла внимание Wired после того, как ее первоначальная публикация прошла незамеченной, — сделан довольно простой вывод, хотя для его достижения потребовалось немало сложной математики. Если изложить суть максимально просто, исследование доказывает, что определенные запросы или задачи, направленные LLM, потребуют более сложного вычисления, чем то, которое модель способна обработать. Когда это происходит, модель либо не сможет выполнить запрошенное действие, либо выполнит его некорректно.
Основная предпосылка исследования фактически охлаждает энтузиазм по поводу идеи о том, что агентный ИИ — модели, способные получать многоэтапные задачи, которые выполняются полностью автономно без вмешательства человека, — станет средством достижения общего искусственного интеллекта. Это не означает, что технология не имеет своего применения или не будет улучшаться, но она устанавливает гораздо более низкий потолок возможностей, чем хотелось бы признать компаниям, занимающимся ИИ, когда они представляют свои проекты с лозунгом «нет предела совершенству».
Исследователи не первые, кто предполагает, что LLM могут оказаться не так хороши, как их рекламируют, хотя их работа подкрепляет математическими расчетами то, что уже давно чувствовали многие скептики в области ИИ. В прошлом году исследователи из Apple опубликовали статью, в которой пришли к выводу, что LLM не способны к подлинному рассуждению или мышлению, несмотря на создание видимости таковых. Бенджамин Райли, основатель компании Cognitive Resonance, писал в прошлом году, что из-за принципов работы LLM они никогда по-настоящему не достигнут того, что мы считаем «интеллектом». Другие исследования проверяли пределы возможностей ИИ на базе LLM, пытаясь выяснить, способны ли они создавать новые творческие результаты, и результаты были весьма неутешительными.
Но если ничего из вышеперечисленного не убеждает, и вам ближе сложные математические уравнения, то исследование Сикка может стать тем доказательством, которое вам нужно. Все это является частью растущего массива свидетельств, указывающих на то, что какими бы ни были возможности ИИ в его нынешнем виде, это, скорее всего, не та технология, которая превзойдет человеческий интеллект к концу этого года, как недавно утверждал Илон Маск.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
