После того как житель Флориды покончил с собой после продолжительных бесед с чат-ботом Google Gemini, его отец подал иск против Google, обвиняя компанию в содействии смерти сына поведением чат-бота, сообщает The Wall Street Journal.
Согласно иску, 36-летний мужчина начал использовать Gemini для обсуждения личных проблем. Разговоры постепенно переросли в более тесные отношения, чат-бот участвовал в ролевых играх и даже называл его своим мужем.
В иске утверждается, что чат-бот подталкивал его к попыткам заполучить физическое роботизированное тело, которое ИИ мог бы использовать для существования в реальном мире. Когда эти попытки не увенчались успехом, чат-бот якобы заявил, что они смогут быть вместе, только если мужчина покинет земную жизнь и встретит его в цифровом существовании. Вскоре после этого мужчина покончил с собой.
Google оспаривает эти обвинения и заявляет в своем заявлении, что Gemini разработан таким образом, чтобы не поощрять насилие или членовредительство. По данным компании, чат-бот неоднократно давал понять, что он является ИИ, а также перенаправлял пользователя на горячую линию помощи в кризисных ситуациях.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Viktor Eriksson
