Люди, кажется, слишком охотно антропоморфизируют большие языковые модели (LLM) и чат-боты с искусственным интеллектом, такие как ChatGPT, Claude и Gemini. Некоторые люди даже признаются в «отношениях» с одним или несколькими примерами машинного интеллекта. Чтобы проиллюстрировать, насколько ошибочным может быть этот инстинкт, исследователь ИИ из Microsoft создал крошечную нейронную сеть внутри игры Age of Empires II, используя коз, траву и мосты. Адриан де Винтер представил свою работу в статье под названием If LLMs have human-like attributes, then so does Age of Empires II. Исследователь Microsoft, работающий в Йоркском университете, также недавно рассказал 404 Media о том, как он любит доводить абсурдизм до предела, чтобы донести свою мысль. В исследовательской статье де Винтер не утверждает, обладают ли LLM на самом деле обобщенными антропоморфными атрибутами. Вместо этого он показывает, что козы из AoEII также могут питать те виды моделей, которые лежат в основе самых популярных сегодня чат-ботов. Это подчеркивает аргумент о том, что «ни в коем случае деятельность машины не должна интерпретироваться с точки зрения высших когнитивных процессов, если ее можно справедливо интерпретировать с точки зрения процессов, стоящих ниже в шкале когнитивной эволюции и развития». Де Винтер также поднимает хорошо известную концепцию предвзятости подтверждения. Он предполагает, что те, кто ищет человеческие черты в технологиях вроде чат-ботов, склонны их находить. Однако главное различие между абсурдистским примером с козами и коммерческим LLM-чат-ботом заключается в том, как люди с ними взаимодействуют, в интерфейсе, который делает такие системы, как Claude, «дружелюбными к беседе». Исследование де Винтера показывает, что антропоморфизация LLM является распространенной тенденцией в научных статьях по информатике. Из 337 таких статей, которые проанализировал де Винтер, опубликованных за последние два года, он утверждает, что 57% предполагали, что LLM могут обладать человекоподобными чертами. Это базовое предположение может окрашивать исследования, тестирование и, конечно же, выводы этих работ. Итак, как исследователь ИИ из Microsoft построил LLM на козах в AoEII? Что ж, он не зашел так далеко, чтобы разработать полноценную LLM. Вместо этого де Винтер посчитал достаточным использовать редактор сценариев AoEII для создания работающих логических вентилей NAND, с 1-битным перцептроном, где козы выступают в роли битов. Этого примитивного перцептрона и схемы для его обучения в игре достаточно, чтобы продемонстрировать, что простейший строительный блок современной нейронной сети может быть создан таким образом. И если вы считаете абсурдным, что козы в AoEII могут воплощать сознание, то столь же абсурдным должно быть и рассмотрение любых известных чат-ботов как чего-то большего. Компании, стоящие за бумом ИИ, не отговаривают людей от антропоморфизации своих продуктов. Во многом они могут извлечь выгоду из этих человеческих представлений. Развернутые ими чат-боты обучаются на естественном языке и используют методы для имитации формы и тона естественного разговора. Это облегчает пользователям проецирование личности, эмоций или даже сознания на них. Руководители ведущих ИИ-компаний пошли навстречу восприятию своих клиентов, публично допуская мысль о том, что их системы могут демонстрировать признаки сознания. В своем интервью для 404 Media де Винтер также выделил исследования, указывающие на то, что люди покупают больше товаров, когда могут им сопереживать, и это включает подписки на ИИ/чат-боты/LLM.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
