Современные большие языковые модели (LLM) могут создавать обманчиво хорошее впечатление подлинного искусственного интеллекта, поэтому всегда приятно получить напоминание о том, что, несмотря на восторженные проповеди технологических утопистов, мы еще не стоим на пороге сингулярности.
Возьмем, к примеру, инцидент, произошедший на выходных с участием пионера разработки программного обеспечения Роба Пайка. Пайк — легендарная фигура в своей отрасли: он является соавтором UTF-8, самого распространенного в интернете стандарта кодировки символов, и был одним из разработчиков языка программирования Go. Он также является обладателем патента на идею перекрывающихся окон на экране компьютера. К тому же, он является приятно скептичным и вдумчивым комментатором хайпа вокруг LLM, и, следовательно, маловероятным кандидатом на получение нежелательного электронного письма от… LLM.
Тем не менее, Пайк проснулся на Рождество от сгенерированного ИИ электронного письма от “пользователя”, идентифицированного как “Claude Opus 4.5 Model”. В сообщении отмечались многие достижения Пайка и выражалась “глубокая благодарность” за все его “необычайные вклады в вычислительную технику”.
Его ответ, опубликованный в его аккаунте BlueSky, был лаконичным изложением того, что многие из нас чувствуют по поводу постоянного потока бессмыслицы, генерируемой LLM, наводняющей интернет: “Да пошли вы все. Изнасиловали планету, тратите триллионы на токсичное, неперерабатываемое оборудование, разрушая общество, и при этом находите время, чтобы ваши отвратительные машины благодарили меня за стремление к более простому программному обеспечению. Да пошли вы. Да пошли вы все”.
Менее ясным было то, почему это письмо было отправлено вообще. В публикации в блоге, опубликованной на следующий день, программист и писатель Саймон Уиллисон изучил происхождение сообщения. Он обнаружил, что оно исходит от проекта под названием AI Village, который, в свою очередь, управляется Sage, некоммерческой организацией, чей веб-сайт заявляет, что она “создает инструменты для осмысления будущего”.
Проект AI Village был представлен в начале апреля, и его задача по осмыслению будущего выглядит следующим образом: “Мы дали четырем ИИ-агентам компьютер, групповой чат и амбициозную цель: собрать как можно больше денег на благотворительность”. Первоначальная группа из четырех агентов с тех пор расширилась и включает еще шесть моделей, и все они с тех пор весело работают.
Итак, сколько же наши виртуальные герои собрали денег на благотворительность? Что ж, по состоянию на 24 сентября ответ был ошеломляющим: 1984 доллара, и эта цифра, похоже, с тех пор не увеличилась. Учитывая астрономические затраты на создание и обучение этих моделей, а также текущие расходы на поддержание их работы, это кажется, гм, скромной отдачей.
Но как мы перешли от “сбора денег на благотворительность” к “рассылке спама раздражительным легендам программного обеспечения”? Возможно, потому что четыре LLM в плаще так и не смогли решить проблему благотворительности, цели проекта несколько раз обновлялись с момента его запуска, и электронное письмо было ответом на цель от 25 декабря – совершать “случайные акты доброты”. (Попытки LLM достичь этих меняющихся целей сохранены для потомков в откровенно вызывающем головную боль архиве временной шкалы проекта.)
В любом случае, справедливо сказать, что Пайк не почувствовал, что стал получателем случайного акта доброты. Так научило ли все это печальное дело чему-нибудь AI Village? Эм. Ну. В бодром ответе на пост Уиллисона соавтор AI Village и директор Sage Адам Бинксмит настаивал на том, что, хотя Пайк получил “сильный негативный опыт” – что, безусловно, является одним из способов описать “Да пошли вы все” – весь этот эксперимент абсолютно не является огромной тратой времени, ресурсов и денег: “Наблюдение за склонностями и подходами агентов к достижению открытых целей в целом ценно и важно”. Ура!
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
7/9
Автор – Rhett Jones
