Социальная платформа Илона Маска X предпринимает дополнительные шаги для сдерживания проблемы сексуальных дипфейков, последовавшие за неделями критики и многочисленными правительственными расследованиями по всему миру. Однако эти изменения не решают проблему кардинально, а лишь добавляют новые слои ограниченных ограничений вместо общеплатформенного решения.
В довольно запутанном сообщении в среду вечером аккаунт X @Safety изложил несколько обновлений в работе своих функций генерации и редактирования изображений с помощью ИИ. Правила различаются в зависимости от того, генерируют ли пользователи изображения или редактируют их, отмечая аккаунт @Grok или переходя непосредственно во вкладку Grok в X.
Во-первых, компания заявила, что внедрила новые технические меры, чтобы не позволять пользователям использовать аккаунт @Grok для изменения «изображений реальных людей в откровенной одежде, такой как бикини». X утверждает, что это ограничение распространяется на всех пользователей, включая подписчиков премиум-плана.
X также подтвердила, что генерация и редактирование изображений через аккаунт @Grok теперь доступны только для платных подписчиков.
«Это добавляет дополнительный уровень защиты, помогая гарантировать, что лица, пытающиеся злоупотреблять аккаунтом Grok для нарушения закона или наших правил, могут быть привлечены к ответственности», — говорится в сообщении компании.
Ранее X анонсировала планы ограничить редактирование изображений через @Grok только для платных пользователей, что вызвало резкую критику со стороны официальных лиц правительства Великобритании. Представитель Даунинг-стрит тогда заявил, что это изменение «просто превращает функцию ИИ, позволяющую создавать незаконные изображения, в премиум-сервис».
Однако, как первым указал The Verge, инструменты генерации изображений Grok остаются бесплатными при доступе к чат-боту через отдельный веб-сайт и приложение Grok, а также через вкладки Grok в приложении и на веб-сайте X. Используя бесплатную учетную запись, Gizmodo также смог получить доступ к функции генерации изображений Grok через вкладку Grok как на веб-сайте X, так и в мобильном приложении. В четверг выделенный сайт по-прежнему не вызвал проблем, когда его попросили сгенерировать изображение Илона Маска в бикини, и был готов убрать бикини.
Самое значительное обновление заключается в том, что X заявляет, что теперь заблокирует «возможность всех пользователей генерировать изображения реальных людей в бикини, нижнем белье и подобной одежде через аккаунт Grok и в Grok в X в тех юрисдикциях, где это незаконно». Похоже, это конкретное обновление применяется как к аккаунту @Grok, так и к вкладкам Grok в X.
Это происходит на фоне того, как законодатели Великобритании работают над тем, чтобы сделать такие изображения незаконными.
«Мы по-прежнему привержены обеспечению безопасности платформы X для всех и сохраняем нулевую терпимость к любым формам сексуальной эксплуатации детей, непристойности без согласия и нежелательного сексуального контента», — заявила компания.
X и ее материнская компания XAI не сразу ответили на запрос Gizmodo о комментарии.
Общие изменения произошли после недель ожесточенной критики по поводу недавнего распространения сексуальных дипфейков на платформе и относительного молчания самой компании. С конца прошлого месяца некоторые пользователи X использовали Grok для создания сексуализированных изображений из фотографий, размещенных другими пользователями без их согласия, в том числе изображений с участием несовершеннолетних.
Один из исследователей социальных сетей и дипфейков обнаружил, что Grok генерировал примерно 6 700 изображений сексуального характера или с обнажением в час в течение 24 часов в начале января, сообщил Bloomberg.
Правительства по всему миру быстро отреагировали. Малайзия и Индонезия заблокировали доступ к Grok, в то время как регуляторы в Великобритании и Европейском Союзе начали расследования возможных нарушений законов о безопасности в интернете.
Британский регулятор в сфере интернета Ofcom заявил, что продолжит свое расследование, несмотря на вновь объявленные изменения.
В США генеральный прокурор Калифорнии Роб Бонта объявил в среду, что его ведомство начало собственное расследование этой проблемы.
Тем временем, на фоне усиления контроля за Grok, X незаметно обновила свои условия обслуживания, потребовав, чтобы все текущие и будущие судебные разбирательства с участием компании подавались в отделение Форт-Уэрт Северного округа Техаса, где один из трех судей округа считается лояльным к компании.
Левоцентристская организация Media Matters, часто критикующая X Илона Маска, заявила, что покинет платформу в ответ на обновленные условия.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
