Новости: дипфейки

Индонезия сняла запрет на чат-бота Grok от xAI после того, как компания X представила план по улучшению сервиса и предотвращению злоупотреблений. Ранее страны региона запретили Grok из-за создания сексуализированных дипфейков.

Еврокомиссия начала расследование против Илона Маска и его платформы X из-за использования чат-бота Grok для генерации неприемлемого сексуального контента, включая дипфейки женщин и детей. Регуляторы оценивают соблюдение Закона о цифровых услугах на фоне растущего мирового давления.

Миллионы жертв, вероятно, пострадали от сексуализированных изображений, созданных с помощью Grok, в то время как рекламодатели X проигнорировали скандал. Отсутствие быстрой реакции регуляторов и платформ усилило распространение вредоносного контента.

Group-IB: киберпреступники активно используют Dark LLMs и дипфейки по подписке. ИИ стал инфраструктурой для атак, автоматизируя мошенничество и подмену личности, что усложняет защиту.

Массовый поток сгенерированных искусственным интеллектом сексуальных изображений вызвал серьезную обеспокоенность среди официальных лиц штатов и Конгресса США. Генпрокурор Калифорнии Роб Бонта направил компании xAI предписание о немедленном прекращении создания материалов сексуального насилия над детьми и дипфейков без согласия на фоне расследований в ряде стран.

Компания X вводит новые технические и гео-ограничения для возможностей редактирования изображений через Grok после скандала с дипфейками, но критики отмечают, что это не полное решение проблемы.

Сенаторы США направили официальное письмо лидерам X, Meta, Alphabet, Snap, Reddit и TikTok с требованием доказать наличие надежных политик по борьбе с сексуализированными дипфейками, сгенерированными ИИ, и объяснить меры по их пресечению.

Генпрокурор Калифорнии Роб Бонта инициировал расследование в отношении Grok Илона Маска из-за генерации интимных изображений женщин и детей. Проверяется возможное нарушение законодательства США на фоне скандала с дипфейками.

Комитет по науке Великобритании раскритиковал задержки с запретом инструментов для создания дипфейков, отмечая, что ускоренное законодательство не охватывает многофункциональные платформы, такие как Grok, где гендиректор xAI обвиняется в монетизации злоупотреблений.

В 2025 году доходы от криптомошенничества достигли рекордных $17 млрд, что стало возможным благодаря развитию ИИ, дипфейков и фишинга. Анализ Chainalysis показывает взрывной рост средних платежей и схем с выдачей себя за госорганы.