Самые первые аресты по Закону о немедленном удалении (Take It Down Act, TIDA) свидетельствуют о том, что правоохранительным органам не приходится прилагать сверхусилий для выявления лиц, незаконно размещающих и продающих в сети сексуализированные дипфейки женщин без их согласия.
На прошлой неделе ФБР арестовало двух мужчин после посещения порносайтов и кликов по хештегам вроде #AI #Deepfakes или названиям видео вроде «AI_tits» или «Ass_AI».
Один из подозреваемых, обвиняемых в нарушении TIDA, — 20-летний Артуро Эрнандес. Он предположительно разместил 113 альбомов, просмотренных почти миллион раз, содержащих сгенерированные ИИ сексуализированные изображения и видеоролики примерно 50 женщин. Среди жертв были политические деятели, актрисы и музыканты, а также непубличные лица, например, девушки, учившиеся с ним в одной техасской старшей школе, и его подруга из Instagram* .
Данные геолокации помогли полиции идентифицировать Эрнандеса как подозреваемого. В своем заявлении под присягой специальный агент ФБР Кристофер Пауэлл пояснил, что полиция, расследуя порносайт, обнаружила вторую учетную запись, которая повторно публиковала весь контент, который, как утверждается, загрузил Эрнандес. Эта вторая учетная запись была связана с аккаунтом Эрнандеса в PayPal, говорится в жалобе, а IP-адрес, часто используемый для входа в него, совпадал с IP-адресом, который, согласно записям Apple Эрнандеса, он использовал для входа в свой iCloud.
Хотя сексуализированные дипфейки знаменитостей и политиков, возможно, легче всего обнаружить в сети, полиция также искала доказательства, связывающие Эрнандеса с контентом ИИ, изображающим знакомых ему людей. Поиск, вероятно, упростился, когда выяснилось, что Эрнандес не только подписан на аккаунт одной из жертв в Instagram* , но и обнаружилось, что он сохранил в папке своего собственного аккаунта Instagram* то самое изображение, которое использовалось для создания порнографического контента с помощью ИИ, просмотренного более 36 000 раз.
Эрнандес, по-видимому, пытался дистанцироваться от части этой деятельности, например, зарегистрировав свой аккаунт Gmail под ником «Райан», а не своим настоящим именем. Однако полиция отметила, что Эрнандес использовал ник «Райан» и в других местах в сети, в том числе в своем аккаунте Snapchat.
,
Однако другой арестованный, 51-летний Корнелиус «Нил» Шеннон, по-видимому, был менее осторожен, как показало заявление под присягой Пауэлла по этому аресту.
Шеннона обвиняют в публикации примерно 360 альбомов, сгенерированных ИИ, которые были просмотрены более 2 миллионов раз и содержали изображения около 90 женщин, в основном политических деятелей, актрис и музыкантов.
Заявление Пауэлла предположило, что связать Шеннона с аккаунтом на порносайте было тривиально легко, поскольку Шеннон, по всей видимости, использовал свою собственную фотографию в качестве аватара. Сопоставив данные Департамента транспортных средств и фотографии с камер наблюдения, полиция предположила, что мужчина, позирующий в футболке бейсбольной команды Mets на профильном фото аккаунта, похож на Шеннона.
Эрнандесу и Шеннону грозит до двух лет тюремного заключения, если полиция сможет доказать, что они нарушили TIDA.
FTC предупреждает 12 разработчиков «nudify»-инструментов
Чиновники, по-видимому, мотивированы отслеживать изображения, размещаемые в сети, и обеспечивать соблюдение закона.
В пресс-релизе, анонсирующем недавние аресты, Джозеф Ночелла-младший, прокурор США по Восточному округу Нью-Йорка, обвинил подозреваемых в использовании «передовых цифровых технологий для создания изображений, унижающих и нарушающих права жертв по всей территории Соединенных Штатов». А Джеймс К. Барнакл-младший, помощник директора, курирующий нью-йоркский офис ФБР, подтвердил, что его агенты продолжат расследование аналогичных дел.
«Это хищническое поведение представляет собой тревожное злоупотребление технологиями, которое наносит эмоциональный вред жертвам, нарушая их неприкосновенность частной жизни, достоинство и безопасность», — сказал Барнакл. «Использование этой новой технологии для виктимизации людей не является инновацией — это преступление, и оно будет преследоваться со всей строгостью закона».
Однако некоторые лица, обвиняемые в нарушениях TIDA, могут продолжать использовать эту технологию для причинения вреда жертвам, поскольку она остается легкодоступной и относительно дешевой для создания реалистичного контента, сексуализирующего реальных людей. Мужчина из Огайо, которого Министерство юстиции США назвало первым арестованным по TIDA, примечательно продолжал создавать сексуализированные дипфейки во время освобождения под залог до суда, по-видимому, не сдерживаемый даже угрозой неминуемых последствий.
,
Чтобы не дать людям использовать сервисы ИИ для «раздевания» и распространения вредоносных изображений в сети, Федеральная торговая комиссия (FTC) объявила на прошлой неделе, что направила предупредительные письма 12 компаниям, предлагающим так называемые «nudify»-инструменты.
FTC предупредила, что эти компании, по всей видимости, нарушают TIDA, и они должны внедрить «процесс, посредством которого жертвы могут потребовать удаления интимных изображений без их согласия, появляющихся на их платформах» в течение 48 часов, иначе им грозят «гражданские штрафы в размере до 53 088 долларов за нарушение».
Неясно, получило ли предупреждение социальная медиаплатформа X — на которую подали в суд три девушки, утверждавшие, что ее чат-бот Grok превратил их реальные фотографии в материалы о сексуальном насилии над детьми, созданные ИИ. Однако аккаунт X Safety на прошлой неделе опубликовал уведомление для пользователей о том, что жертвы TIDA могут сообщать о вредоносном контенте через Справочный центр. Они также могут сообщить о любом посте, «нажав на меню из трех точек (⋯), выбрав «Личный контент или контент без согласия» > «Сообщить о контенте в соответствии с Законом США о немедленном удалении», а затем заполнив форму».
«Наша команда рассматривает эти сообщения как можно быстрее и строго в пределах 48-часового срока, установленного Законом», — говорится в сообщении X Safety.
В более широком смысле, FTC, по-видимому, усиливает правоприменение после того, как в этом месяце истек срок, когда все онлайн-платформы должны были иметь такой процесс в наличии. За неделю до отправки предупредительных писем «nudify»-сервисам FTC направила дополнительные письма операторам крупных платформ, включая Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta*, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok и X. Эти письма предписывали платформам быть готовыми столкнуться со штрафами за любое несоблюдение.
Однако даже если бы такой процесс был внедрен на каждой онлайн-платформе, TIDA кажется несовершенным, поскольку он не останавливает первоначальное распространение и по-прежнему возлагает бремя на жертву по мониторингу и пометке вредоносных изображений в Интернете. Критики предупреждали, что этим процессом также могут злоупотреблять люди, включая, возможно, Дональда Трампа, которые надеются, что платформы будут автоматически удалять любой сообщаемый контент, который им не нравится.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
