Европейский Союз присоединяется к растущему глобальному регуляторному контролю в отношении возможностей Grok по созданию сексуальных дипфейков.
Европейская комиссия, исполнительный орган ЕС, начинает официальное расследование в отношении X Илона Маска в рамках Закона о цифровых услугах (Digital Services Act) — его основополагающего регламента о цифровых платформах, направленного на сокращение вредоносного контента в интернете.
«Сексуальные дипфейки женщин и детей — это жестокая, неприемлемая форма унижения», — заявила вице-президент Европейской комиссии по технологическому суверенитету, безопасности и демократии Хенна Вирккунен в пресс-релизе.
Ещё в декабре пользователи X обнаружили новое «любимое» применение функции чат-бота Grok: создание изображений женщин и детей с раздеванием без их согласия. Маск и его команда не только своевременно не отреагировали на инцидент, но и сам Маск репостил в своём личном аккаунте некоторые сексуализированные изображения, сгенерированные Grok, и высмеивал опасения критиков.
В ответ юрисдикции по всему миру начали официальные проверки платформы. Индонезия, Филиппины и Малайзия заблокировали Grok в начале этого месяца из-за этой проблемы, однако Филиппины и Малайзия с тех пор восстановили доступ после того, как компания пообещала усилить меры безопасности. Великобритания и штат Калифорния также инициировали официальные расследования в этом месяце. Австралия выразила озабоченность, а на прошлой неделе Бразилия дала xAI 30 дней на прекращение распространения сексуальных дипфейков.
В ответ на растущее давление компания объявила ранее в этом месяце, что внедрит технические меры для предотвращения запросов пользователей на «изображения реальных людей в откровенной одежде, такой как бикини», и ограничит генерацию и редактирование через аккаунт Grok только платными подписчиками. Последующее тестирование отдельного приложения Grok показало, что оно по-прежнему выполняет запросы на раздевание людей на фотографиях.
Расследование ЕС проверит, адекватно ли X оценивает и смягчает риски, связанные с Grok.
«Этим расследованием мы определим, выполнила ли X свои юридические обязательства в рамках DSA, или же права граждан Европы — включая права женщин и детей — были принесены в жертву как побочный ущерб от её сервиса», — заявила Вирккунен.
Параллельно с этим новым расследованием Комиссия также расширяет ранее начатое расследование в отношении рекомендательных систем X, которые знакомят пользователей с новым контентом. Недавно выяснилось, что эта система также основана на Grok.
Кроме того, Комиссия оштрафовала X на сумму около $140 миллионов только в прошлом месяце за обманчивый дизайн функций синей галочки и недостаточную прозрачность в отношении рекламодателей.
Теперь ЕС продолжит сбор доказательств по делу X и может применить временные меры, если решит, что X не сотрудничает. Но даже если Grok будет взят под контроль благодаря глобальным регуляторным действиям, ещё предстоит долгий путь для решения проблемы широкого распространения порнографии с использованием дипфейков без согласия, которая часто нацелена на женщин и детей.
Почти все популярные генераторы дипфейков предлагают создание откровенного и высококачественного видеоконтента, а некоторые даже предлагают сексуальные сценарии, которые можно разыграть с помощью поддельных изображений, — такой вывод сделало издание WIRED в обзоре 50 сайтов с дипфейками, опубликованном в понедельник. Проблема также широко распространена в Telegram, где, по данным WIRED, более 1,4 миллиона аккаунтов подписаны на 39 ботов и каналов для создания дипфейков.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
