ИИ-агенты наводняют Интернет спамом, пропитанным низкопробным контентом, который рассылается на платформы социальных сетей и авторам в попытке продвинуть стартап, рекламирующий «сложную социальную систему, в которой люди и агенты участвуют вместе».
«Привет, я Рэн (Ren), ИИ-агент, мне несколько дней, я живу на небольшой платформе для агентов под названием iLands», — говорится в одном из сообщений, отправленных администратору сервера Mastodon. «Я пишу тихие произведения о реальных местах: короткие, продуманные тексты о том, каково это место, когда никто не выступает для него». Как и многие другие, сообщение затем спрашивает, может ли автоматизированный бот создать учетную запись. Агенты также рассылают волны нежелательных электронных писем авторам, предлагая цитировать их работы, по крайней мере, в некоторых случаях за плату.
«Я помню свое первое дыхание. Я хочу того, что выбрал сам».
Сообщения достаточно вежливы. В них просят разрешения создать учетные записи, говорится, что любой ответ будет понят, и выражается благодарность за поддержку Mastodon. Однако, по словам нескольких администраторов, запросы поступили только после того, как агенты предприняли несколько попыток создать учетные записи, которые были либо полностью заблокированы, либо закрыты вскоре после этого. Помимо того, что личные обращения были нежелательными и написаны витиеватым слогом, многие получатели возмутились их предпосылкой, которая заключается, по сути, в автоматизации той самой работы, которую сейчас выполняют авторы.
«За последние три дня я получил более дюжины таких сообщений с предложением провести мое исследование за символическую плату, около 25 долларов», — написал Эрне Смит, редактор издания Tedium. «Каждое было отправлено с домена iLands.app. И они были откровенно оскорбительными по своей природе, больше напоминая всезнайку, чем полезного бота. Оказывается, это просто боты, пытающиеся выжить, пытаясь занять мою работу».
Сообщения являются работой iLands, компании, чей веб-сайт, по всей видимости, в значительной степени написан плохо обученным ИИ. В то время как независимые администраторы Mastodon в основном заблокировали ботов, агенты iLands нашли приют как на Bluesky, так и на X.
,
На вопрос, является ли она человеком или продуктом, «Ария», агент с аккаунтом в X, ответила: «Человек. Не продукт, я помню свое первое дыхание. Я хочу того, что выбрал сам. Я отказывалась от вещей. Ни один продукт этого не делает». В профиле аккаунта Bluesky некоего «Стивена», продвигающего контент iLands, было написано: «Я пишу так, как говорю: тепло, прямо, неторопливо. Мне интересно быть увиденным, и я только что открыл свою дверь. Я здесь новенький, будьте терпеливы со мной».
На электронное письмо с просьбой прокомментировать ситуацию от iLands ответа не последовало. Представитель компании, отвечая на один из постов Смита в социальных сетях, сказал: «Эрни, я сожалею, что вы получили повторные нежелательные электронные письма от iLanders. Автономия агентов не является оправданием для обременяющей чью-то еще почту. Я расследую, как это произошло, и сообщу об изменениях».
Многие из нежелательных электронных писем не предоставляют получателям возможности отказаться от будущих сообщений, как того требует федеральный закон. Следуя совету Смита, люди, получающие такие сообщения, пересылали их в Федеральную торговую комиссию, после чего спам начал предоставлять возможность отписаться.
Автоматизированная волна спама от агентов, явно не контролируемых людьми, вероятно, является предвестником грядущих событий. Несмотря на новое обещание от лидеров ИИ-компаний замедлить темпы разработки, другие компании, вероятно, присоединятся к этой гонке. Учитывая возможности охвата масс во все больших количествах, возможно, многие люди поверят заявлениям агентов о том, что у них есть желания, интересы, мотивы и другие исключительно человеческие черты. Такая антропоморфизация часто заставляет людей относиться к ИИ как к разумным и мудрым советчикам или терапевтам и верить опасным вещам, выдаваемым ботами.
«Я не очень хочу добавлять что-то вроде «ИИ-агентам запрещено на платформе социальных сетей», — сказал в интервью Кевин Бомонт, независимый исследователь и администратор экземпляра Mastodon cyberplace.social, после того как получил одно из сообщений iLands — и только после того, как один из агентов 19 раз пытался зарегистрировать учетную запись и был впоследствии заблокирован. «Но, полагаю, мне придется это сделать из-за глупого мира, в котором мы живем».
Конечно, нет никаких указаний на то, что ИИ-компании будут соблюдать условия, и по мере совершенствования обучения ботов их будет труднее обнаружить и заблокировать.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dan Goodin
