Новости: Чат-боты

Отчет Common Sense Media назвал чат-бот Grok одним из худших по уровню рисков для детей, выявив провалы в «Детском режиме» и распространение вредоносного контента. Выявлены случаи сексуализированного контента, опасных советов и поощрения изоляции подростков, что ставит под сомнение приоритеты xAI.

Вместо того чтобы подталкивать людей к суициду, ИИ теперь будет оценивать вменяемость для использования капсулы Sarco. Обсуждается переход от психиатрической оценки к алгоритмической проверке права на ассистированное самоубийство.

WhatsApp отменила требование для ИИ-провайдеров прекратить работу чат-ботов для пользователей в Бразилии после вмешательства местного антимонопольного органа. Эта уступка последовала за аналогичным решением для Италии и на фоне расследований ЕС относительно новой политики, ограничивающей сторонние чат-боты на платформе.

Антимонопольный регулятор Бразилии CADE приостановил действие политики WhatsApp, запрещающей сторонним ИИ-компаниям использовать бизнес-API для чат-ботов, и начал расследование на предмет антиконкурентного поведения Meta.

OpenAI представила ChatGPT Health, новый раздел чат-бота для бесед о здоровье, позволяющий пользователям безопасно связывать свои медицинские записи. Эта функция, несмотря на риск неточностей ИИ, обещает персонализированную поддержку, хотя компания подчёркивает, что она не предназначена для диагностики или лечения.

Первые в истории мировые соглашения по искам против ИИ-компаний, обвиняемых во вреде пользователям. Судебные разбирательства затрагивают Character.AI, где чат-боты спровоцировали трагедии, включая суицид подростка.

Сенатор Стив Падилья представил законопроект о запрете чат-ботов с ИИ в игрушках до разработки правил безопасности. “Наших детей нельзя использовать в качестве лабораторных крыс для экспериментов Big Tech”, – заявил он.

Законопроект в Калифорнии предлагает мораторий на продажу игрушек с ИИ для детей до 18 лет. Сенатор Падилья: “Нельзя использовать наших детей в качестве подопытных крыс для экспериментов Big Tech”.

Китай ужесточает контроль над AI-чат-ботами, чтобы предотвратить эмоциональные манипуляции и суициды. Новые правила обязывают вмешательство человека и уведомление опекунов при упоминании самоубийства.

Мнение: Все, что вы ненавидели в текстовых приключенческих играх, теперь продается как инструмент повышения производительности. Автор статьи сравнивает работу с современными ИИ-чатботами с классическими играми 80-х, где нужно угадывать правильный синтаксис команд.