Европейский Союз может вскоре запретить приложения для создания «нюдсов» после того, как чат-бот Илона Маска Grok стал ярким примером опасностей, связанных с тем, что платформа ИИ не смогла заблокировать выдачу, которая сексуализировала изображения реальных людей, включая детей.
В совместном пресс-релизе комитеты Европейского парламента по внутреннему рынку и гражданским свободам подтвердили, что законодатели проголосовали 101 против 9 (при 8 воздержавшихся) за упрощение Закона об искусственном интеллекте и «предложение запретить системы ИИ типа „нудификаторов“».
Голосование состоялось после того, как ранее в этом году Европейская комиссия пришла к выводу, что Закон об ИИ не запрещает «системы ИИ, генерирующие материалы сексуального насилия над детьми (CSAM) или откровенные дипфейки с обнаженными телами». В то время Комиссия сигнализировала, что члены Парламента уже предлагают способы внесения поправок в закон для усиления защиты от такого вредоносного контента.
Если поправка будет принята, что весьма вероятно, это сорвет план Илона Маска переложить вину за вредоносные результаты на пользователей. Ранее в этом году xAI отказалась внедрять меры безопасности для блокировки выдачи, пообещав приостанавливать работу и привлекать пользователей к юридической ответственности за любые CSAM или интимные изображения, созданные без согласия, которые они сгенерируют. Вместо этого функция была переведена на платную основу, доступная подписчикам, которые, по сообщениям, могли продолжать генерировать откровенный контент без согласия реальных людей, чьи изображения были загружены в Grok.
В США xAI, по-видимому, столкнулась с небольшими последствиями за результаты работы Grok, но если бы действовал закон Take It Down Act — он вступает в силу в мае — компания могла бы понести многомиллиардные штрафы. Возможно, тактика Маска по переводу функции на платную основу и блокировке вредоносной выдачи Grok в ответ на запросы в X была призвана смягчить часть этого риска до вступления закона в силу.
Но если ЕС запретит приложения для создания «нюдсов», возможно, уже в августе, Маск, наконец, будет вынужден вмешаться, доработав Grok, чтобы он был менее «пикантным», чем, вероятно, хочет Маск, или же рискуя нарушить Закон об ИИ. Это может стоить xAI слишком дорого в то время, когда конкуренция с крупнейшими соперниками в гонке ИИ требует значительных инвестиций, с возможными штрафами до 7 процентов от общего мирового годового оборота.
Почему чиновники хотят преследовать платформы, а не пользователей
Чиновники «хотят ввести новый запрет на так называемые системы „нудификаторов“, которые используют ИИ для создания или манипулирования изображениями, являющимися откровенно сексуальными или интимными и напоминающими узнаваемого реального человека без его согласия», — поясняется в пресс-релизе. Однако, по словам чиновников, «запрет не будет применяться к системам ИИ с эффективными мерами безопасности, не позволяющими пользователям создавать такие изображения».
Как отметило Bloomberg ранее, этот запрет радикально изменит подход ЕС к регулированию откровенных дипфейков, выйдя за рамки простого уголовного преследования пользователей и начав наказывать платформы. Скандал с Grok «стал воплощением» того, почему такой регуляторный сдвиг был необходим, сообщило Bloomberg, отметив, что «эта поправка является первой» политикой ЕС, «которая конкретно нацелена на платформы ИИ», производящие и допускающие распространение «сексуальных материалов без согласия субъекта».
Хотя официальные лица ЕС не упомянули Grok напрямую в пресс-релизе, регуляторы уже изучали эту систему ИИ, обдумывая последствия скандала с xAI для других, менее заметных приложений для создания «нюдсов». Ранее в этом году, направляя вопросы Европейской комиссии, законодатели предупреждали:
Недавние шокирующие сообщения о приложениях для создания наготы на базе ИИ, таких как Grok в X, а также о других инструментах, свободно доступных в Интернете, подчеркивают рост числа инструментов на базе ИИ, которые позволяют пользователям генерировать манипулированные интимные изображения людей без их согласия, способствуя кибернасилию по признаку пола и созданию материалов сексуального насилия над детьми.
«Эти системы должны быть запрещены на рынке ЕС», — настоятельно призывали законодатели, особенно потому, что «отдельных правонарушителей» — которых «часто можно наказать в соответствии с национальным уголовным законодательством» — «часто трудно найти». Более проактивным планом, предложили законодатели, было бы «предотвратить широкомасштабное сексуальное насилие с использованием изображений с самого начала».
При явной поддержке членов Парламента, вероятное принятие поправки, несомненно, расстроит Маска, который также сталкивается с судебными разбирательствами в США с требованием судебных запретов против выдачи «нюдсов» через Grok. В январе Эшли Сент-Клэр, мать одного из детей Маска, стала одной из первых жертв, подавших иск. А совсем недавно три девочки из Теннесси подали коллективный иск, представляющий всех детей, пострадавших от предполагаемых CSAM-выдач Grok.
В ЕС аналогичное общественное давление нарастает, требуя вмешательства регуляторов, поскольку xAI, по-видимому, не желает мешать Grok раздевать реальных людей. Член комитета по гражданским свободам Майкл Макнамара заявил в пресс-релизе, что считает предложение о запрете приложений для создания «нюдсов» «тем, чего ожидают наши граждане».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
