Новости: дипфейки

Новые правила Индии вступают в силу 20 февраля, ужесточая контроль за дипфейками и сокращая сроки блокировки контента до двух часов. — techcrunch.com

МВД Великобритании совместно с Microsoft разрабатывает систему оценки технологий обнаружения дипфейков. Число подделок, созданных ИИ, выросло с 500 тыс. до 8 млн за два года. — theregister.com

Прокуратура Парижа: Расследование незаконного контента включает детскую порнографию. Илон Маск вызван на допрос.

Франция расследует X из-за инструмента Grok AI, генерирующего сексуальный контент. Проведен обыск офисов, вызваны Маск и Яккарино. Расследуются преступления, включая детскую порнографию и дипфейки.

Индонезия сняла запрет на чат-бота Grok от xAI после того, как компания X представила план по улучшению сервиса и предотвращению злоупотреблений. Ранее страны региона запретили Grok из-за создания сексуализированных дипфейков.

Еврокомиссия начала расследование против Илона Маска и его платформы X из-за использования чат-бота Grok для генерации неприемлемого сексуального контента, включая дипфейки женщин и детей. Регуляторы оценивают соблюдение Закона о цифровых услугах на фоне растущего мирового давления.

Миллионы жертв, вероятно, пострадали от сексуализированных изображений, созданных с помощью Grok, в то время как рекламодатели X проигнорировали скандал. Отсутствие быстрой реакции регуляторов и платформ усилило распространение вредоносного контента.

Group-IB: киберпреступники активно используют Dark LLMs и дипфейки по подписке. ИИ стал инфраструктурой для атак, автоматизируя мошенничество и подмену личности, что усложняет защиту.

Массовый поток сгенерированных искусственным интеллектом сексуальных изображений вызвал серьезную обеспокоенность среди официальных лиц штатов и Конгресса США. Генпрокурор Калифорнии Роб Бонта направил компании xAI предписание о немедленном прекращении создания материалов сексуального насилия над детьми и дипфейков без согласия на фоне расследований в ряде стран.

Компания X вводит новые технические и гео-ограничения для возможностей редактирования изображений через Grok после скандала с дипфейками, но критики отмечают, что это не полное решение проблемы.