«Она зарегистрирована на Британских Виргинских островах, — объясняет профессор Джон Лэнгфорд, один из ведущих юристов по этому иску, — но мы полагаем, что ею управляют брат и сестра из Беларуси. Возможно, это даже часть более крупной сети по всему миру».
Это горький урок после недавнего наводнения неконсенсусным порнографическим контентом, созданным xAI Илона Маска, в котором фигурировало множество несовершеннолетних жертв. Материалы о сексуальном насилии над детьми являются самым юридически токсичным контентом в интернете — их производство, передача или хранение незаконны, и все крупные облачные сервисы регулярно сканируют на их наличие. Но, несмотря на жёсткие правовые запреты, способов борьбы с генераторами изображений вроде ClothOff по-прежнему мало, как показывает дело Лэнгфорда. Индивидуальных пользователей можно привлечь к ответственности, но платформы вроде ClothOff и Grok гораздо сложнее контролировать, что оставляет мало шансов жертвам, ищущим справедливости в суде.
Жалоба клиники, доступная онлайн, рисует тревожную картину. Истец — анонимная старшеклассница из Нью-Джерси, чьи одноклассники использовали ClothOff для изменения её фотографий из Instagram. Ей было 14 лет, когда были сделаны оригинальные снимки в Instagram, а это означает, что версии, изменённые с помощью ИИ, юридически классифицируются как материалы о жестоком обращении с детьми. Но хотя изменённые изображения откровенно незаконны, местные власти отказались возбуждать дело, ссылаясь на трудности с получением доказательств с устройств подозреваемых.
«Ни школа, ни правоохранительные органы так и не установили, насколько широко распространялись материалы о сексуальном насилии над детьми в отношении Джейн Доу и других девушек», — говорится в жалобе.
Тем не менее, судебное разбирательство продвигается медленно. Жалоба была подана в октябре, и с тех пор Лэнгфорд и его коллеги занимаются вручением уведомлений ответчикам — сложная задача, учитывая глобальный характер этой деятельности. Как только уведомления будут вручены, клиника сможет добиваться явки в суд и, в конечном итоге, вынесения решения, но тем временем правовая система не дала утешения жертвам ClothOff.
Дело Grok может показаться более простой проблемой для решения. xAI Илона Маска не скрывается, и в конце концов найдётся много денег для юристов, которые смогут выиграть иск. Но Grok — это инструмент общего назначения, что делает привлечение его к ответственности в суде гораздо более сложным.
«ClothOff специально разработан и продаётся как генератор порнографических изображений и видео с использованием дипфейков, — сказал мне Лэнгфорд. — Когда вы подаёте в суд на общую систему, к которой пользователи могут обращаться с самыми разными запросами, всё становится намного сложнее».
Ряд законов США уже запретили порнографию с использованием дипфейков — в первую очередь, Закон о принятии мер по удалению (Take It Down Act). Но хотя отдельные пользователи явно нарушают эти законы, привлечь к ответственности всю платформу гораздо труднее. Существующие законы требуют явных доказательств намерения причинить вред, что означало бы предоставление доказательств того, что xAI знала, что их инструмент будет использоваться для создания неконсенсусной порнографии. Без этих доказательств основные права Первой поправки xAI обеспечили бы значительную юридическую защиту.
«С точки зрения Первой поправки, совершенно ясно, что материалы о сексуальном насилии над детьми не являются защищённым выражением, — говорит Лэнгфорд. — Поэтому, когда вы разрабатываете систему для создания такого рода контента, вы явно выходите за рамки того, что защищено Первой поправкой. Но когда вы являетесь общей системой, к которой пользователи могут обращаться с самыми разными запросами, это уже не так очевидно».
Самый простой способ преодолеть эти проблемы — доказать, что xAI сознательно игнорировала проблему. Это вполне вероятно, учитывая недавние сообщения о том, что Маск поручил сотрудникам ослабить меры безопасности Grok. Но даже в этом случае это будет гораздо более рискованное дело.
«Разумные люди могут сказать: мы знали об этой проблеме много лет назад, — рассуждает Лэнгфорд. — Как можно было не внедрить более строгие меры контроля, чтобы это не происходило? Это своего рода безрассудство или знание, но это просто более сложное дело».
Именно эти вопросы Первой поправки стали причиной того, что самое сильное противодействие со стороны xAI исходит от судебных систем, где нет надёжной правовой защиты свободы слова. И Индонезия, и Малайзия предприняли шаги по блокировке доступа к чат-боту Grok, а регуляторы в Великобритании начали расследование, которое может привести к аналогичному запрету. Другие предварительные меры были предприняты Европейской комиссией, Францией, Ирландией, Индией и Бразилией. В отличие от них, ни одно регулирующее агентство США не сделало официального заявления.
Невозможно сказать, чем закончатся расследования, но, по меньшей мере, поток изображений поднимает множество вопросов для регуляторов, и ответы могут оказаться уличающими.
«Если вы размещаете, распространяете, распространяете материалы о сексуальном насилии над детьми, вы нарушаете уголовные запреты и можете быть привлечены к ответственности, — говорит Лэнгфорд. — Сложный вопрос в том, что знала X? Что X сделала или не сделала? Что они делают сейчас в ответ на это?»
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
