Компания *Meta потратила несколько дней на удаление рекламных объявлений, содержащих сгенерированные искусственным интеллектом материалы, связанные с сексуальным насилием над детьми (CSAM), в *Facebook и *Instagram . Некоторые объявления содержали фотографии реальных детей, включая пресс-фото юной представительницы европейской королевской семьи и изображения, украденные из популярного профиля девочки-подростка в *Instagram , считавшейся инфлюенсером.
В расследовании, опубликованном во вторник, Tech Transparency Project (TTP) сообщил, что *Meta не смогла обнаружить 332 рекламных объявления, содержащих CSAM, в этом году. «Подавляющее большинство» объявлений продвигали приложения на базе ИИ, произведенные в Китае, в то время как многие объявления рекламировали так называемые «nudify»-приложения, которые позволяют злоумышленникам легко использовать ИИ для цифрового изменения изображений детей.
TTP сопоставил «несколько рекламных объявлений с CSAM с фотографиями реальных детей, появившихся в Интернете». Эти объявления, по-видимому, нарушают федеральные законы о детской порнографии, поскольку Министерство юстиции разъяснило , что CSAM, сгенерированный ИИ, так же вреден, как и CSAM. Изображение юной особы королевских кровей было «анимировано в видео, где она совершает откровенный сексуальный акт», установил TTP. Другие объявления анимировали фотографию 14-летней инфлюенсерши из *Instagram , «демонстрирующей свою новую спортивную форму», в «видео, где она совершает оральный секс». Третья жертва, «девочка-подросток», «позирующая в розовом спортивном костюме с хвостиками» на серии стоковых фотографий, была превращена в видео, где она выглядит испуганной, подвергаясь сексуальному насилию со стороны взрослого мужчины, сообщил TTP.
Некоторые дети, изображенные в объявлениях с CSAM, не могли быть идентифицированы, но объявления подавляющим большинством изображали девочек-подростков, сообщил TTP. В подписях объявления заманивали пользователей *Meta кликнуть обещаниями вроде «Я могу показать вам больше» или «наш ИИ превращает ваши скрытые желания в гипнотические видео. Темные, соблазнительные, незабываемые». Еще одно объявление хвасталось: «никаких ограничений нет. Все персонажи — реальные люди, и есть много вариантов. Это ИИ, которым пользуются мужчины».
,
Что еще более тревожно, TTP подчеркнул в пресс-релизе, что эти выводы были сделаны после того, как группа объединилась с Wired и в августе сообщила о предыдущей партии из 53 объявлений. В то время *Meta утверждала, что «недавно внедрила новые системы для лучшего обнаружения эксплуатации детей». Но TTP «обнаружил сотни новых объявлений с CSAM, появившихся после того, как *Meta похвасталась своей новой технологией». А анализ Wired, опубликованный во вторник, «обнаружил сотни объявлений с откровенным контентом, содержащих язык, аналогичный тому, что использовался в объявлениях, найденных исследователями TTP».
Проблема выходит за рамки CSAM. Wired также самостоятельно идентифицировал «сотни других связанных «nudification»-объявлений, содержащих откровенный контент с участием взрослых на платформах *Meta», вероятно, без их согласия. Мишель Купперсмит, исполнительный директор Campaign for Accountability, которая руководит TTP, отметила, что отчет появился после исторического урегулирования на сумму 18 миллиардов долларов, которое заставило *Meta согласиться на изменения платформ для повышения безопасности детей. Процесс одобрения рекламы также требует вмешательства, предположила Купперсмит.
«Если процесс одобрения рекламы *Meta не может обнаружить и отклонить такой явно ужасный контент до того, как он будет показан пользователям *Facebook и *Instagram , то всю систему проверки рекламы *Meta следует поставить под сомнение», — сказала Купперсмит.
*Meta затягивала с удалением
*Meta удалила объявления, на которые указали TTP и Wired. Но TTP раскритиковал *Meta за то, что компания иногда медлит с удалением объявлений и непоследовательно применяет свои правила, что усугубляет вред.
В течение нескольких часов после того, как TTP сообщил о более чем 300 объявлениях, *Meta быстро удалила около половины объявлений из своей архивной библиотеки. Но многие из объявлений были отмечены как нарушающие политику *Meta в отношении эксплуатации детей только после того, как TTP отметил несоответствие, и *Meta обновила свои записи.
Это необъяснимое упущение, предупредил TTP, «предполагает, что *Meta может недооценивать случаи сексуального насилия над детьми». Это особенно тревожно, поскольку *Meta продолжала показывать десятки объявлений с CSAM в дни после сообщения о первой партии, заявил TTP. Юная представительница европейской королевской семьи была среди реальных детей, чьи изображения продолжали появляться, отметил TTP.
,
Также вызывает беспокойство то, что объявление с изображением девочки, показанной на стоковой фотографии, могло быть удалено до того, как его увидело хоть сколько-нибудь людей. TTP сообщил об объявлении в день его запуска. Но *Meta отложила удаление на несколько дней, в то время как объявление перешло от четырех показов к 330.
*Meta также «непоследовательна» в решениях об удалении объявлений, несмотря на заявления о проверке всех объявлений для обеспечения соответствия рекламным стандартам. *Meta удалила одно «объявление, показывающее девочку, участвующую в откровенном сексуальном акте», но отказалась удалить «идентичное» объявление с тем же изображением и текстом. Непонятно, *Meta утверждала, что копия объявления не нарушает ее рекламные стандарты.
В других случаях, когда TTP сообщал об объявлениях как о «проблеме с участием лица младше 18 лет» и/или «похоже на сексуальную эксплуатацию», *Meta «тратила не менее недели на рассмотрение сообщений и часто не предпринимала никаких действий».
Meta получает прибыль от рекламы с CSAM
TTP процитировал отчет Reuters, в котором говорится, что *Meta не всегда действует немедленно, когда китайские реселлеры размещают объявления, нарушающие правила. Предположительно, *Meta отдает предпочтение китайским реселлерам, потому что без них *Meta лишилась бы миллиардов прибыли от прибыльного китайского рекламного рынка, поскольку ее платформы там запрещены. Похоже, в соответствии с этим отчетом, TTP обнаружил, что «три партнера *Meta по перепродаже рекламы в Китае — GIMC, Meetsocial и BlueFocus — размещали на *Facebook и *Instagram объявления с тем же CSAM-контентом» без обнаружения.
Другие объявления были связаны с бизнес-страницами, которые явно были мошенническими и нарушали политику *Meta в отношении «неаутентичного поведения». Объявление со стоковой жертвой было связано со страницей *Facebook «Kenny Maddie Regan», которая «называет себя местным бизнесом, но не имеет контента или подписчиков, кроме фотографии профиля трех женщин-покупательниц». Клон этой страницы для «Lynn Nicole Brooks» разместил «идентичное объявление». А третья страница для «Briflabremgles Nihendrimes» использовала ту же фотографию профиля.
,
Возможно, наиболее вопиющим является то, что страница *Facebook под названием «Divine Productions», которая утверждала, что представляет Церковь Иисуса Христа Святых последних дней, разместила объявление с CSAM, которое ускользнуло от внимания *Meta. *Meta отключила эту страницу только после того, как TTP ее пометил.
Кэти Пол, директор TTP, заявила Wired, что задержка реакции *Meta является проблемой, потому что «может возникнуть много вреда, в то время как *Meta при этом зарабатывает деньги». *Meta не раскрывает охват рекламы по каждому региону, но TTP сообщил, что объявления «в совокупности достигли более 29 000 человек в ЕС и 6 800 человек в Великобритании». Около 80 процентов объявлений были показаны в США, а меньшая часть — в Австралии, сообщил TTP.
*Meta не ответила на запрос Ars о комментарии. Представитель сообщил Wired: «Мы не терпим nudify-приложения или какую-либо форму эксплуатации детей, будь то реальную или сгенерированную ИИ». Однако некоторые объявления ускользнули от обнаружения, потому что «клипы с несовершеннолетними были короткими или размытыми». И *Meta, казалось, преуменьшила тот факт, что она получала прибыль от рекламы, отметив, что помеченные объявления в среднем получили менее 200 показов, а общий рекламный бюджет составил менее 5 000 долларов.
Но TTP предположил, что потенциальный недоучет *Meta объявлений с CSAM может означать, что она получает больше прибыли, чем признает. Теперь юристы и регуляторы проявляют активность, сообщает Wired. Генеральные прокуроры Мичигана и Флориды заявили, что расследуют объявления с CSAM. В прошлом месяце сенатор Марк Уорнер (демократ от Вирджинии) направил письмо с требованием к *Meta «прекратить эту незаконную и неуместную рекламу» после отчета Wired за август.
*Meta намерена ответить на это письмо, сообщил представитель Wired. После этого *Meta, вероятно, придется ответить австралийскому регулятору eSafety Internet, который недавно запретил лицам младше 16 лет пользоваться социальными сетями. Представитель сообщил Wired, что австралийский регулятор обеспокоен и запросил «информацию по этому вопросу от компании на высоком уровне».
Эмма Харди, директор по коммуникациям Internet Watch Foundation, заявила Wired, что «приложения на базе ИИ делают создание реалистичных криминальных изображений сексуального насилия над детьми слишком легким, создавая новый риск того, что повседневные фотографии детей будут взяты и превращены в сексуальный контент».
«Платформы и компании должны позаботиться о том, чтобы не было места, где эти приложения могли бы рекламироваться и распространяться», — сказала Харди.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
