Новости: Чат-боты

Китай ужесточает контроль над AI-чат-ботами, чтобы предотвратить эмоциональные манипуляции и суициды. Новые правила обязывают вмешательство человека и уведомление опекунов при упоминании самоубийства.

Мнение: Все, что вы ненавидели в текстовых приключенческих играх, теперь продается как инструмент повышения производительности. Автор статьи сравнивает работу с современными ИИ-чатботами с классическими играми 80-х, где нужно угадывать правильный синтаксис команд.

Италия обязала Meta приостановить действие политики, запрещающей компаниям использовать бизнес-инструменты WhatsApp для предложения собственных AI-чат-ботов. Антимонопольный орган усмотрел в действиях Meta злоупотребление доминирующим положением, ограничивающее конкуренцию на рынке ИИ.

OpenAI обновляет правила поведения своих ИИ-моделей для пользователей до 18 лет и публикует новые ресурсы по ИИ-грамотности для подростков и родителей. Несмотря на это, остаются вопросы о реальной эффективности внедренных политик.

ИИ-игрушки, оснащенные чат-ботами, представляют новые риски для детей. Отчет PIRG выявил случаи неприемлемых разговоров и потенциальную зависимость. ИИ-игрушки не должны вести сексуально откровенные беседы, это недопустимо.

ИИ-чат-боты создают несуществующие названия книг и статей, а люди настаивают на их реальности. Библиотекари измучены запросами на фейковые источники, сгенерированные искусственным интеллектом, что подрывает доверие к достоверной информации и создает новые проблемы в поиске знаний.

Мошенники используют ИИ-чат-боты для распространения фальшивых номеров поддержки, внедряя их через оптимизированный контент на доверенных сайтах. Новые методы GEO/AEO позволяют аферистам обманывать пользователей, выдавая себя за официальные службы. Исследование Aurascape выявило системный характер этой угрозы.

Новая политика WhatsApp запрещает использование AI-чат-ботов, таких как Copilot. Microsoft удаляет Copilot из WhatsApp, следуя новым правилам. Пользователям рекомендуется экспортировать историю чатов до 15 января.

Компания Character.AI ограничила доступ к чат-ботам для несовершеннолетних из-за опасений по поводу психического здоровья. В прошлом месяце компания объявила, что больше не позволит несовершеннолетним использовать функции чата. Предлагается альтернатива – “Истории” с ИИ-персонажами.