Новости: Психическое здоровье

Чатботы провоцируют суициды и психозы: эксперты требуют от OpenAI публиковать данные о безопасности моделей, открытые бенчмарки и участие клиницистов в разработке. Изучите, какие меры снизят вред и как оценивают новые ИИ-системы.

OpenAI внедряет новую функцию «доверенный контакт» для взрослых пользователей ChatGPT, чтобы повысить безопасность. ChatGPT по-прежнему будет призывать пользователей обращаться на горячие линии помощи или в экстренные службы при необходимости. Функция позволяет уведомить выбранного человека в случае обсуждения тем, связанных с причинением себе вреда. — gizmodo.com

Несмотря на недостатки LLM-чат-ботов, пользователи обращаются к ChatGPT и Claude за советами по здоровью. Google обновила Gemini, добавив модуль кризисной поддержки и окно экстренной связи для помощи пользователям в вопросах психического здоровья. — pcworld.com

Пара утверждает, что обзор исследований и другие доказательства доказывают необходимость того, чтобы больше стран последовали примеру Австралии и оставили детей офлайн. — theregister.com

Угодничество и бредовые разговоры чат-ботов имеют негативные последствия для психического здоровья пользователей, показало исследование, анализирующее логи диалогов. — theregister.com

Универсальные инструменты, такие как ChatGPT, Claude и Grok, не предназначены для такого использования, что вызывает опасения у специалистов по психическому здоровью. Подростки используют ИИ для общения и поддержки, что вызывает тревогу у родителей и экспертов. — techcrunch.com

Несколько мобильных приложений для поддержания психического здоровья с миллионами загрузок в Google Play содержат уязвимости безопасности, которые могут раскрыть конфиденциальную медицинскую информацию пользователей. Исследователи обнаружили более 1500 проблем, включая утечку данных терапии. — bleepingcomputer.com

Компании социальных сетей сталкиваются с растущим вниманием по всему миру из-за предполагаемого вреда общему благополучию и психическому здоровью пользователей поколения Z. — androidheadlines.com

Вместо того чтобы подталкивать людей к суициду, ИИ теперь будет оценивать вменяемость для использования капсулы Sarco. Обсуждается переход от психиатрической оценки к алгоритмической проверке права на ассистированное самоубийство.

Специалисты предупреждают: работники сталкиваются с новыми проблемами для психического здоровья, переходя от выполнения задач к контролю над ИИ. Автоматизация и её влияние на сотрудников.