Правительство Великобритании начнет применять закон, запрещающий создание сексуальных изображений и видео без согласия, как объявила министр по делам технологий Лиз Кендалл. Это заявление прозвучало после того, как британские регуляторы сообщили о начале расследования в отношении чат-бота Grok от xAI, который в последние недели использовался для создания сексуализированных изображений как детей, так и взрослых, чьи снимки никогда не предназначались для такого использования.
«Контент, распространявшийся в X, отвратителен. Это не просто оскорбление для приличного общества. Это незаконно», — заявила министр по делам технологий Лиз Кендалл в понедельник в Парламенте.
Кендалл отметила, что xAI ограничила некоторые функции deepfake в Grok для платных подписчиков, что она назвала оскорблением для жертв и способом «монетизации насилия». Согласно британскому Закону о данных, принятому в прошлом году, создание или запрос на создание интимных изображений без согласия человека является незаконным. По словам Кендалл, этот закон начнет действовать на текущей неделе.
В конце декабря пользователи X начали регулярно подвергать домогательствам женщин и девушек в приложении, что побудило Grok превращать фотографии в сексуализированные изображения. Чаще всего Grok превращал реальные фотографии в сгенерированные ИИ изображения в бикини, но другие тактики включали указания Grok одеть людей только в скотч, развернуть человека в сексуальных позах или добавить «глазурь из пончика» — метод, заставляющий выглядеть так, будто женщины и девушки покрыты эякулятом.
«Internet Watch Foundation сообщает об обнаружении криминальных изображений детей в возрасте от 11 лет, включая сексуализированных и топлес девочек. Это сексуальное насилие над детьми», — заявила Кендалл в понедельник. «Мы видели сообщения о том, как распространяются фотографии женщин в бикини, связанных и с кляпами во рту, с синяками, покрытыми кровью, и многим, многим другим. Жизни могут быть и были разрушены этим контентом, который создан для преследования, истязания и нарушения человеческого достоинства».
Кендалл назвала эти изображения «оружием насилия, непропорционально направленным против женщин и девочек» и подчеркнула, что ответственность должны нести не только отдельные пользователи, но и компании, создающие такие инструменты, как Grok, к которым относится xAI Илона Маска. Маск ранее пытался переложить вину на пользователей, хотя большинство крупных ИИ-компаний стараются минимизировать подобные инциденты с помощью встроенных в продукт систем защиты.
Ofcom, британский регулятор, уполномоченный контролировать социальные платформы, ранее в понедельник объявил о начале расследования в отношении Grok. Другие страны также отреагировали: Малайзия и Индонезия полностью заблокировали Grok на фоне скандала. Еврокомиссия также заявила о расследовании действий Grok и лиц, стоящих за чат-ботом.
«Я потрясена тем, что технологическая платформа позволяет пользователям цифровым образом раздевать женщин и детей в сети. Это немыслимое поведение. А вред, причиняемый этими дипфейками, очень реален», — заявила президент Еврокомиссии Урсула фон дер Ляйен, по сообщению Politico.
«Мы не будем передавать защиту детей и вопросы согласия на аутсорсинг Кремниевой долине. Если они не будут действовать, мы будем», — добавила она.
Президент Дональд Трамп и его администрация жаловались на излишнюю строгость Европы в вопросах регулирования высказываний в социальных сетях. Госдепартамент США во главе с госсекретарем Марком Рубио в прошлом месяце ввел санкции против сотрудников европейских организаций, борющихся с дезинформацией. Госдепартамент заявил, что они занимаются «цензурой».
Когда Илон Маск приобрел Twitter (ныне X) в конце 2022 года, он вернул ранее заблокированных ультраправых экстремистов, пытаясь изменить тональность дискуссий в сети и доказать, что сможет поддерживать социальную платформу, несмотря на присутствие языка вражды. И теперь кажется, что Маск пытается сделать то же самое с еще более спорной темой: материалами о сексуальном насилии над детьми, созданными с помощью инструментов искусственного интеллекта.
После того как один из правых авторов опубликовал скриншот из одного из самых известных видео с сексуальным насилием над детьми в истории в 2023 году, Маск восстановил аккаунт автора после недолгого бана. Когда законодатели Австралии позже задали вопросы об этом инциденте, включая личное вмешательство Маска, представитель Twitter ответил, что, возможно, автор делился незаконными изображениями из негодования по поводу насилия над детьми. Австралийские законодатели не приняли это объяснение, но платформе все равно разрешили продолжать работу в стране.
Эшли Сент-Клер, консервативный автор детских книг и мать одного из детей Маска, жаловалась в X на то, что ее изображения превращались в сексуализированные, включая фото, сделанное, когда она была ребенком. Это привело к тому, что ее аккаунт лишили синей галочки верификации и всех возможностей монетизации на платформе, согласно скриншотам, которые она опубликовала в X. Сент-Клер также отказалась от своих прежних антитрансгендерных убеждений, что побудило Маска в понедельник написать в Твиттере, что он будет добиваться единоличной опеки над их ребенком. У Маска как минимум четырнадцать детей от четырех разных женщин.
Правительство США при Трампе вряд ли будет жестко пресекать создание материалов о сексуальном насилии над детьми, хотя сенатор Рон Уайден, демократ от Орегона, заявил Gizmodo на прошлой неделе, что на ИИ не распространяются гарантии, предусмотренные Разделом 230. Уайден предположил, что штаты должны начать привлекать к ответственности такие платформы, как X, если федеральное правительство этого не делает.
X, которая технически принадлежит xAI, не ответила на вопросы, отправленные по электронной почте в понедельник. xAI ответила сообщением «Legacy Media Lies» (Ложь традиционных СМИ) — автоответчиком для журналистов, настроенным уже некоторое время.
*Facebook и *Instagram принадлежит компании Meta Platforms Inc., деятельность которой запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Matt Novak
