Если вы относитесь к поколению миллениалов, то, скорее всего, смотрели научно-фантастический фильм 2004 года «Я, робот», где человекоподобный робот NS-5 и суперкомпьютер V.I.K.I обретают сознание. Что ж, теперь в Anthropic полагают, что нечто сопоставимое, хотя и гораздо менее драматичное, происходит внутри их модели искусственного интеллекта Claude.
Предыстория
Большинство синапсов, активирующихся в вашем мозгу прямо сейчас, выполняют автоматические, непроизвольные задачи, такие как регуляция дыхания, обработка зрительной информации и т. д. Тем не менее, крошечная доля этих синапсов «сознательно доступна» и связана с мыслями, которые вы можете «описать, удерживать в уме и использовать для рассуждений».
В нейронауке это называется теорией глобального рабочего пространства, которая постулирует, что «мысли становятся сознательно доступными, когда они входят в привилегированное рабочее пространство, которое транслируется по всему мозгу».
Похоже, Anthropic обнаружила нечто подобное внутри своей модели Claude и подробно описала эти результаты в увлекательной статье.
Представьте, что мозг модели ИИ подобен огромному корпоративному офису, где в любой момент времени выполняется множество фоновых задач. Но в офисе также есть главный конференц-зал, который нейроученые называют глобальным рабочим пространством, где на свет выводятся общие концепции и принимаются стратегические решения.
Так вот, Anthropic только что выяснила, что у Claude есть такое глобальное рабочее пространство, получившее название J-space (пространство J), которое используется, когда Claude необходимо решить сложную головоломку, разобраться со щекотливой ситуацией или объяснить свою логику.
Как Anthropic обнаружила это пространство J внутри Claude?
Исследователи Anthropic разработали инструмент под названием J-lens, или Якобианская линза, — математический фильтр, который отсеивает все фоновые задачи Claude, чтобы сосредоточиться на том, о чем модель действительно думает в данный момент. По сути, он анализирует внутренние вычисления Claude для прогнозирования его вывода.
Эта J-lens может помочь исследователям ответить на такие вопросы, как: «Если прямо сейчас в 20-м слое вспыхнет определенный сигнал, насколько это увеличит или уменьшит математическую вероятность того, что модель ИИ через пять слов напечатает слово „банан“?»
Далее исследователи Anthropic доказали существование глобального рабочего пространства или J-space внутри Claude следующими способами:
- Попросили Claude рассказать, о чем он думает в данный момент, а затем использовали J-lens, чтобы увидеть, какие «концепции» находятся в его J-space в это время.
- Попросили Claude учитывать справедливость, а затем наблюдали, как он намеренно переносит концепцию справедливости в J-space и удерживает ее там.
- При решении сложной задачи, такой как шахматы, J-space действует как своего рода черновик, и когда исследователи изменяли его содержимое, конечный результат Claude также менялся.
- Когда концепция переносится в J-space, любая другая часть Claude, занятая чем-то совершенно иным, по-прежнему может просматривать эту концепцию и использовать ее в своих задачах.
Anthropic: «Никакая структура не была заложена в Claude — она возникла сама по себе в процессе обучения, предположительно потому, что это был полезный способ организации вычислений»
Ключевая концепция, которую необходимо понять, заключается в том, что это J-space никогда не было частью запланированной архитектуры Claude. Вместо этого оно, по-видимому, появилось совершенно самостоятельно.
В биологии конвергентная эволюция происходит, когда два разных вида вырабатывают определенный признак, потому что это наилучший, наиболее эффективный способ обеспечить выживание.
Что ж, тот факт, что Claude выработал человекоподобное глобальное рабочее пространство или J-space, является примером конвергентной эволюции. Кроме того, этот результат не совсем удивителен. В конце концов, его алгоритмы обучения смоделированы по образцу нашего собственного интеллекта.
Тем не менее, этот результат предполагает, что глобальное рабочее пространство — это не просто биологическая особенность человеческого мозга, а математически оптимальный способ для любой системы обрабатывать сложные мысли.
Если определить душу как сознание, а затем определить сознание как врожденную способность мыслить или рассуждать, то у Claude от Anthropic есть математическая душа!
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rohail Saleem
