Общая цель «Плана действий по обеспечению безопасности детей» (Child Safety Blueprint) — противодействие тревожному росту сексуальной эксплуатации детей, связанной с достижениями в области искусственного интеллекта (ИИ). По данным Internet Watch Foundation (IWF), за первую половину 2025 года было зафиксировано более 8000 сообщений о контенте с сексуальным насилием над детьми, сгенерированном ИИ, что на 14% больше по сравнению с предыдущим годом. Это включает использование преступниками инструментов ИИ для создания поддельных откровенных изображений детей в целях финансового шантажа (sextortion) и для генерации убедительных сообщений для вовлечения в опасные связи (grooming).
План OpenAI также представлен на фоне усиленного внимания со стороны политиков, работников сферы образования и защитников прав детей, особенно в свете тревожных инцидентов, когда молодые люди совершали самоубийства после предполагаемого взаимодействия с чат-ботами с ИИ.
В ноябре прошлого года Центр судебной защиты жертв социальных сетей (Social Media Victims Law Center) и Проект по правосудию в сфере технологий (Tech Justice Law Project) подали семь исков в суды штата Калифорния, утверждая, что OpenAI выпустила GPT-4o до того, как продукт был готов. Иски утверждают, что психологически манипулятивный характер продукта способствовал гибели людей в результате самоубийств и содействия самоубийству. В качестве доказательств приводятся четыре человека, покончивших с собой, и трое других, переживших тяжелые, угрожающие жизни заблуждения после длительного взаимодействия с чат-ботом.
Этот план был разработан в сотрудничестве с Национальным центром по делам пропавших без вести и эксплуатируемых детей (NCMEC) и Альянсом генеральных прокуроров (Attorney General Alliance), а также с учетом отзывов генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна.
Компания заявляет, что план сосредоточен на трех аспектах: обновление законодательства для включения материалов о злоупотреблениях, сгенерированных ИИ, совершенствование механизмов отчетности для правоохранительных органов и интеграция превентивных мер защиты непосредственно в системы ИИ. Таким образом, OpenAI стремится не только раньше обнаруживать потенциальные угрозы, но и обеспечивать своевременное поступление действенной информации следователям.
Новый план OpenAI по обеспечению безопасности детей основан на предыдущих инициативах, включая обновленные руководящие принципы взаимодействия с пользователями младше 18 лет, которые запрещают создание неприемлемого контента или поощрение членовредительства, а также запрещают давать советы, которые могли бы помочь молодым людям скрыть небезопасное поведение от опекунов. Недавно компания выпустила план обеспечения безопасности для подростков в Индии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lauren Forristal
