Платформы *Meta недавно разместили рекламу инструмента для генерации ИИ-порно, который, по-видимому, побуждал пользователей создавать дипфейк-видео, изображающие американских политиков-женщин, несмотря на политику компании, запрещающую рекламу с материалами сексуального характера. Это последний из серии сбоев *Meta в предотвращении появления на своих платформах рекламы инструментов, создающих неконсенсуальные интимные изображения.
Инструмент под названием Kromix позиционирует себя как «ИИ-стилизатор изображений». Закадровый голос в одном из видеообъявлений, просмотренных WIRED, рекламирует инструмент как «без ограничений», утверждая, что «все персонажи — реальные люди», и описывая его как «ИИ, которым на самом деле пользуются мужчины». В одном из объявлений женщина, очень похожая на видного американского политика-женщину, стоит на фоне флага США и флага президента США, а надпись гласит: «Что, если бы она двинулась?» Затем она подмигивает, после чего реклама переходит к сцене, где женщина с тем же лицом участвует в порнографическом видео.
Приложение Kromix, которое до запроса комментариев от WIRED размещалось в App Store от Apple, предлагает платным пользователям загружать фотографии, чтобы использовать их в сценариях, включающих «изнасилование в спальне» и «диснеевскую любовь». В приложении также есть видео с ИИ-сгенерированными порнографическими роликами женщин в костюмах Человека-паука. Запросы на комментарии, отправленные по указанному в приложении контакту, остались без ответа.
Apple с трудом удаётся не допускать в App Store подобные инструменты, нарушающие её политику в отношении неконсенсуальных интимных изображений, «обнажения» и откровенно сексуального контента. Городской прокурор Сан-Франциско направил компании письмо с требованием прекратить в начале этого лета, требуя удалить 13 конкретных приложений и прекратить «пособничество» в продаже откровенных дипфейк-изображений.
Согласно библиотеке рекламы *Meta, эти объявления были нацелены исключительно на мужчин с лозунгом «Раскройте магию ИИ нового поколения» и были удалены после того, как WIRED задал о них вопросы. Всего, по данным *Meta, с аккаунтом, связанным с кампанией, было связано 32 объявления, которые размещались от пяти до 46 часов. Большинство из них получили не более 10 показов.
Кэти Пол, директор проекта Tech Transparency Project, который обнаружил эти объявления, говорит: «Все объявления, которые мы видели до сих пор по теме “обнажения”, исключительно сексуализируют, обнажают и помещают женщин в ИИ-порно. И это вызывает много вопросов о том, как *Meta собирается справляться с таким контентом, не только в целом, но и когда речь идёт о женщинах-политиках, в то время как компания активно размещает на своей платформе рекламу, содержащую такой контент».
Политики и выборные должностные лица, преимущественно женщины, уже много лет являются мишенью для неконсенсуальных дипфейк-изображений и видео. В январе, когда Grok использовался для создания около 3 миллионов сексуализированных изображений женщин и девочек, чиновники в Швеции, Англии и Северной Ирландии стали объектами нападок со стороны пользователей этой технологии, часто использующих официальные изображения в качестве отправной точки.
«Поскольку производство и распространение ИИ-контента стали демократичными, ранее безобидные медиа — официальные портреты, видео с пресс-конференций — превратились в сырьё для инструментов с низким или нулевым уровнем кода, которые может использовать любой, у кого есть доступ в интернет», — говорит Бенджамин Шульц, ведущий исследователь American Sunlight Project, изучающий, как экосистема вредоносных дипфейк-технологий используется для нападок на политиков.
Согласно публичной документации компании, перед публикацией объявления на платформах *Meta, включая *Instagram и *Facebook, каждое объявление «проверяется» на соответствие политикам, которые подробно описывают, что рекламодатели могут и не могут размещать. «Наша система проверки рекламы в первую очередь полагается на автоматизированные инструменты для проверки объявлений и бизнес-активов на соответствие нашим политикам», — говорится в рекламных стандартах компании, отмечая, что проверка начинается до того, как реклама начинает показываться. Страница, на которой размещались объявления, была создана 3 августа, незадолго до начала показа, и не имела подписчиков — два фактора, которые могли бы указать *Meta на подозрительность аккаунта.
У компании есть специальная политика, запрещающая рекламу, содержащую изображения сексуального характера, включая наготу, сексуальную активность или контент сексуального характера. Более широкая политика *Meta в отношении сексуальной эксплуатации взрослых гласит, что неконсенсуальные интимные изображения запрещены, а продвижение приложений для «обнажения» или «AI-поцелуев» не допускается.
Однако реклама приложений для «обнажения» или раздевания постоянно появлялась на платформах *Meta в последние несколько лет, причём исследователи находили тысячи таких объявлений, которые компания не смогла обнаружить; по собственным подсчётам компании, она также удалила 344 000 объявлений на *Facebook и *Instagram , которые рекламировали эти услуги, в период с ноября прошлого года по январь, и подала иск против как минимум одной компании, продвигающей услуги по «обнажению».
«Сексуальная эксплуатация, включая продвижение приложений для “обнажения”, ужасна, и мы активно боремся с ней», — говорит Синди Саутворт, руководитель отдела безопасности женщин в *Meta. «Это очень конкурентная сфера, где злоумышленники постоянно меняют свою тактику, поэтому мы постоянно укрепляем нашу защиту: только в конце прошлого года мы удалили более 340 000 нарушающих объявлений для приложений для “обнажения”, запустили новую ИИ-технологию для лучшего обнаружения и блокировки новых нарушающих объявлений и предприняли юридические действия против разработчиков таких приложений». Саутворт говорит, что *Meta передаёт информацию о приложениях и разработчиках, которые она удаляет со своей платформы, другим технологическим компаниям.
Большинство видеообъявлений имели обложку с изображением пляжа, гор или водопада, маскируя тот факт, что остальное содержимое было порнографическим. «Это пример тактики, которую используют рекламодатели-злоумышленники, чтобы попытаться избежать обнаружения. Мы знаем об этой тактике и блокируем и удаляем множество нарушающих объявлений, несмотря на их попытки скрыть нарушающий контент за безобидным изображением», — говорит Саутворт. «Тем не менее, ни одна система не идеальна, и мы продолжаем расследовать, почему эти объявления смогли обойти наши системы и как мы можем улучшить ситуацию».
Представитель Apple сообщил WIRED, что компания удалила Kromix из App Store — по их словам, приложение, по-видимому, добавило запрещённый контент и функции после первоначальной проверки. «Мы всегда строго запрещали приложения, предназначенные для создания, распространения или потребления порнографии», — сказали они. «Приложения для “обнажения” противоречат нашим правилам проверки приложений, и мы активно работаем над выявлением и удалением приложений, а также аккаунтов разработчиков, стоящих за ними, которые пытаются обойти наши процессы и политику».
Недавно WIRED сообщил, как исследователи Tech Transparency Project случайно наткнулись на более чем 50 объявлений на платформах *Meta, содержащих ИИ-материалы о жестоком обращении с детьми и изображения несовершеннолетних с высказываниями сексуального характера. Некоторые из них включали «замену лица» ребёнка в видео, где он совершал сексуальный акт. Объявления, которые размещались в период с ноября 2025 года по август, иногда доходили до тысяч людей, включая жителей США, Великобритании и как минимум дюжины европейских стран.
После того как на прошлой неделе WIRED связался с *Meta по поводу этих объявлений, компания удалила их из своей библиотеки рекламы и заменила сообщениями о том, что они были сняты за нарушение политики компании в отношении материалов о жестоком обращении с детьми и их сексуальной эксплуатации, а также за нарушение правил о сексуальных домогательствах и наготе. Некоторые объявления были опубликованы после того, как *Meta сообщила WIRED, что внедрила новую ИИ-технологию для «лучшего обнаружения и блокировки нарушающих объявлений при загрузке».
Несколько объявлений вели к приложению под названием MaskAI, которое появилось в App Store; как и Kromix, оно включало инструменты, позволяющие пользователям загружать изображения и менять лица людей, помещая их в сексуальные ситуации. Приложение было удалено из App Store после того, как WIRED обратился к Apple за комментарием; адрес электронной почты, связанный с приложением, не ответил на запрос о комментарии.
Пол говорит, что *Meta всё больше полагается на ИИ для маркировки и проверки рекламы, одновременно увольняя людей-модераторов. «Реклама — это основной продукт *Meta, и, похоже, контроль качества отсутствует», — говорит она. «*Meta также делает много громких заявлений, полагаясь на свой ИИ и его сложность, одновременно утверждая, что использует ИИ для проверки своей библиотеки рекламы, и что ничто не идеально».
Дополнительный репортаж Тима Марчмана.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Vittoria Elliott, Matt Burgess
