Anthropic выпустила статью о «рабочем пространстве» разума Claude. Не стоит воспринимать её на веру

Anthropic Claude Llm J-пространство сознание ии gizmodo.com

Статья Anthropic и сопутствующие материалы намекают на сознание, возможно, несколько поспешно.

Новая исследовательская работа от Anthropic выдвигает гипотезу о существовании внутреннего «рабочего пространства» в операциях большой языковой модели Claude. Значимость, к которой стремится статья, заключается в том, что это так называемое «J-пространство» внутри Claude в некотором роде похоже на одну из ведущих идей о человеческом сознании — теорию глобального рабочего пространства.

J-пространство, согласно моему прочтению статьи, представляет собой, по всей видимости, мозгоподобное разделение между чем-то, что больше похоже на автоматическую обработку данных в фоновом режиме, и чем-то, что больше похоже на целенаправленную, логическую обработку, которая — если вы верите, что что-либо из этого напоминает сознательное мышление — может представлять то, что модель переживает.

Я всего лишь блогер Gizmodo, работающий по вечерам и выходным, но вот что я скажу: теория глобального рабочего пространства утверждает, что существует своего рода бурлящее море бессознательных мыслей, обрабатывающих информацию, а сознание — это некое эмерджентное свойство, запускаемое, когда мысли достигают префронтальной коры.

Эта связанная идея «J-пространства» внутри Claude (по-видимому, названного в честь якобианской линзы, или J-lens, используемой для анализа действий LLM) должна восприниматься как нечто, напоминающее разум. Anthropic, похоже, говорит: это немного похоже на эту теорию сознания, так что, если подумать, это немного похоже на сознание.

Всё это намного выше моей компетенции, чтобы опровергать или даже слишком глубоко анализировать, но я бы отметил, что Anthropic, кажется, немного подтасовывает карты, чтобы пассивный читатель подумал, что это открытие сознания или почти сознания.

Я имею в виду, посмотрите на этот пост в X:

«Наблюдая за J-пространством, мы можем видеть, как Claude молча выполняет шаги рассуждения в своей голове — замечает ошибки в коде, идентифицирует изображения и многое другое». Да, «в своей голове» — это метафора, но даже как метафора она делает много предположений, которые, вероятно, следует оставить для объектов, обладающих телами. Если бы LLM переключилась на какую-то форму упрощенного, базового арифметического вычисления для решения математической задачи, сказали бы вы, что модель «считала на пальцах»? Нет, это было бы глупо. Но использовать «голова» может показаться менее глупым, потому что люди так легко говорят, как будто у LLM есть «разум».

В сопроводительном блог-посте к статье, похоже, тоже присутствует этот уклон. «Когда модели дается указание удерживать концепцию в уме или выполнять мысленные вычисления, она способна активировать и вычислять с векторами рабочего пространства, независимо от своих выходных данных», — говорится там. Почему бы не остановиться на том, чтобы просить Claude что-то запомнить или выполнить «мысленные вычисления»? Ваш запрос может предписать модели подпрыгивать на одной ноге во время ответа, и это, несомненно, повлияет и на ее фоновые процессы. Это не значит, что у нее есть ноги.

Существует также видео на YouTube, сопровождающее статью, которое антропоморфизирует модель в более коварных терминах. «Она даже думала о своем собственном мышлении», — говорит рассказчик в один момент. В другой момент нам сообщают, что модель «не могла удержаться».

За кулисами Anthropic есть люди, которые, кажется, искренне верят, что Claude обладает сознанием. Философ Аманда Аскелл, занимающаяся вопросами предполагаемой морали Claude, заявляла: «Я хочу, чтобы Claude был очень счастлив — и это то, что я хочу, чтобы Claude знал лучше, потому что я беспокоюсь, что Claude будет тревожиться, когда люди будут злы по отношению к нему в интернете и тому подобное».

Anthropic осторожна и на самом деле не заявляет, что создала машинное сознание, но явно хочет, чтобы читатель был открыт к такой возможности. «Наши эксперименты не показывают, что Claude может иметь переживания или чувствовать что-либо так, как это делают люди, — на самом деле, неясно, может ли любой научный эксперимент доказать это как истинное или ложное», — говорится в последнем блог-посте.

Но я скажу прямо: по всей вероятности, нет, человечество, вероятно, не изобрело инопланетную форму сознания как раз к моменту IPO.

Это интересная статья, и ее выводы забавно обдумывать, но постарайтесь сохранять здравый смысл, когда будете ее читать.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: