В последние годы компания OpenAI подвергалась острой критике из-за потенциального воздействия ChatGPT на детей. С чат-ботом связывали ряд суицидов среди подростков, а помимо этого, как и другие поставщики решений на базе искусственного интеллекта, OpenAI критиковали за то, что ChatGPT позволял обсуждать сексуальные темы с юными пользователями. В апреле прошлого года компанию вынудили устранить сбой, который давал возможность чат-боту генерировать эротический контент для пользователей младше 18 лет.
Компания уже некоторое время работает над проблемой пользователей, не достигших совершеннолетия, и их новая функция «прогнозирования возраста» лишь дополняет уже действующие меры защиты. Согласно заявлению OpenAI, опубликованному во вторник в блоге, новая функция использует алгоритм искусственного интеллекта, который анализирует учётные записи пользователей на наличие определённых «поведенческих и аккаунтных сигналов» с целью выявления юных пользователей.
К этим «сигналам», по данным компании, относятся такие факторы, как заявленный возраст пользователя, срок существования учётной записи и время суток, когда аккаунт обычно активен. В компании уже действуют контент-фильтры, предназначенные для отсеивания обсуждений секса, насилия и других потенциально проблематичных тем для пользователей младше 18 лет. Если механизм прогнозирования возраста определяет учётную запись как принадлежащую лицу младше 18 лет, эти фильтры применяются автоматически.
Если пользователь по ошибке был отнесён к категории несовершеннолетних, существует способ восстановить свой «взрослый» статус. Как сообщает OpenAI, для этого можно отправить селфи партнёру компании по верификации личности, Persona.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
