Новости: дипфейки

Прокуратура Парижа: Расследование незаконного контента включает детскую порнографию. Илон Маск вызван на допрос.

Франция расследует X из-за инструмента Grok AI, генерирующего сексуальный контент. Проведен обыск офисов, вызваны Маск и Яккарино. Расследуются преступления, включая детскую порнографию и дипфейки.

Индонезия сняла запрет на чат-бота Grok от xAI после того, как компания X представила план по улучшению сервиса и предотвращению злоупотреблений. Ранее страны региона запретили Grok из-за создания сексуализированных дипфейков.

Еврокомиссия начала расследование против Илона Маска и его платформы X из-за использования чат-бота Grok для генерации неприемлемого сексуального контента, включая дипфейки женщин и детей. Регуляторы оценивают соблюдение Закона о цифровых услугах на фоне растущего мирового давления.

Миллионы жертв, вероятно, пострадали от сексуализированных изображений, созданных с помощью Grok, в то время как рекламодатели X проигнорировали скандал. Отсутствие быстрой реакции регуляторов и платформ усилило распространение вредоносного контента.

Group-IB: киберпреступники активно используют Dark LLMs и дипфейки по подписке. ИИ стал инфраструктурой для атак, автоматизируя мошенничество и подмену личности, что усложняет защиту.

Массовый поток сгенерированных искусственным интеллектом сексуальных изображений вызвал серьезную обеспокоенность среди официальных лиц штатов и Конгресса США. Генпрокурор Калифорнии Роб Бонта направил компании xAI предписание о немедленном прекращении создания материалов сексуального насилия над детьми и дипфейков без согласия на фоне расследований в ряде стран.

Компания X вводит новые технические и гео-ограничения для возможностей редактирования изображений через Grok после скандала с дипфейками, но критики отмечают, что это не полное решение проблемы.

Сенаторы США направили официальное письмо лидерам X, Meta, Alphabet, Snap, Reddit и TikTok с требованием доказать наличие надежных политик по борьбе с сексуализированными дипфейками, сгенерированными ИИ, и объяснить меры по их пресечению.

Генпрокурор Калифорнии Роб Бонта инициировал расследование в отношении Grok Илона Маска из-за генерации интимных изображений женщин и детей. Проверяется возможное нарушение законодательства США на фоне скандала с дипфейками.