Сервис X Илона Маска в настоящее время находится под следствием в Великобритании после того, как не смог остановить чат-бота платформы Grok от генерации тысяч сексуализированных изображений женщин и детей.
В понедельник британский регулятор медиа Ofcom подтвердил, что X, возможно, нарушила британский Закон о безопасности в интернете (Online Safety Act), который обязывает платформы блокировать незаконный контент. Распространение пользователями X «изображений людей без одежды» может квалифицироваться как злоупотребление интимными изображениями, порнография и материалы о сексуальном насилии над детьми (CSAM), заявил регулятор. Кроме того, X могла пренебречь своей обязанностью не допускать, чтобы дети видели порнографию.
«Сообщения об использовании Grok для создания и распространения незаконных интимных изображений без согласия и материалов о сексуальном насилии над детьми в X вызвали глубокую озабоченность», — заявил представитель Ofcom. «Платформы должны защищать жителей Великобритании от контента, который является незаконным в Соединенном Королевстве, и мы без колебаний проведем расследование, если заподозрим, что компании не выполняют свои обязанности, особенно при наличии риска причинения вреда детям».
X сотрудничает с расследованием, сообщив Ofcom, что компания уложилась в «строгий» срок на прошлой неделе, чтобы объяснить, какие шаги предпринимаются для соблюдения британского законодательства. Ofcom отклонил запрос Ars о предоставлении более подробной информации о возможных изменениях, которые X уже внесла для ограничения Grok в Великобритании или в более широком смысле, поскольку расследование является «текущим».
Grok уже заблокирован в Индонезии и Малайзии, поскольку чат-бот остается бесконтрольным. Великобритания может стать следующей страной, которая заблокирует Grok, если X не выполнит требования Закона о безопасности в интернете. Кроме того, X может грозить штраф до 10 процентов от ее мирового дохода.
Неясно, сколько времени займет завершение расследования. Представитель Ofcom сообщил Ars, что агентство будет продвигать расследование «в качестве задачи наивысшего приоритета, обеспечивая при этом соблюдение надлежащей правовой процедуры». Расследование будет завершено «в максимально разумные сроки».
X получит возможность ответить на предварительное решение Ofcom до вынесения окончательного вердикта.
Ars не удалось связаться с X для получения комментариев по поводу расследования, но Маск жаловался, что критики Grok ищут «предлог для цензуры», как сообщила BBC BBC. X ранее заявляла, что будет сообщать о вредоносных результатах работы правоохранительным органам и навсегда блокировать учетные записи, злоупотребляющие Grok для создания изображений, которые X считает незаконным контентом. Платформа также начала взимать плату с некоторых пользователей за редактирование изображений вместо блокировки результатов.
X, возможно, избежит расследования без последствий из-за «лазеек» в Законе о безопасности в интернете, по словам председателя парламентских комитетов по технологиям и СМИ, как сообщила BBC.
«Существуют сомнения в том, обладает ли Закон о безопасности в интернете на самом деле полномочиями регулировать функциональность — то есть способность генеративного ИИ изменять изображение человека», — заявила BBC Кэролайн Диненейдж, председатель комитета по культуре, СМИ и спорту.
Великобритании, возможно, потребуется обновить закон, чтобы лучше разъяснить обязанности платформ по удалению или предотвращению создания и распространения сексуализированных дипфейков. Однако в документе, определяющем незаконный контент, Ofcom подчеркивает, что дипфейки могут считаться как CSAM, так и злоупотреблением интимными изображениями, предполагая, что X может столкнуться с санкциями, даже если Ofcom не сможет потребовать изменений в функциональности Grok.
Ofcom отметил, что, по его мнению, CSAM включает «изображения, созданные ИИ, дипфейки и другие манипулируемые медиа», которые «подпадают под категорию “псевдофотографии”». Как пояснил Ofcom, «если впечатление, создаваемое псевдофотографией, заключается в том, что изображен ребенок, то фотография должна рассматриваться как изображение ребенка».
Аналогичным образом, «манипулируемые изображения и видео, такие как дипфейки, должны рассматриваться в рамках» злоупотребления интимными изображениями, заявил Ofcom. «Любая фотография или видео, на которых, по-видимому, изображена интимная ситуация», которую реальный человек не хотел бы публиковать, должна «рассматриваться как фотография или видео, на которых на самом деле изображена такая ситуация».
Некоторым поклонникам Grok кажется, что результаты работы чат-бота, которые раздевают людей и помещают их в откровенные бикини или нижнее белье, не являются злоупотреблением. Однако британский закон далее уточняет, что «интимная ситуация» может быть изображением, на котором «гениталии, ягодицы или грудь» человека «прикрыты только нижним бельем» или «прикрыты только мокрой или иной прозрачной одеждой».
Неясно, сколько времени Ofcom потребуется для принятия решения, но регулятор срочно вмешался. А британские чиновники, шокированные скандалом, подтвердили, что они быстро принимают меры для защиты жителей Великобритании от того, чтобы стать мишенью худших результатов работы Grok.
Хотя Ofcom напрямую не упоминает комментарии Маска о цензуре, регулятор занимает оборонительную позицию в своем заявлении — вероятно, готовясь к аргументам X, указывая на то, что именно X будет нести ответственность за определение того, какой контент является незаконным и что должно быть удалено.
«Юридическая ответственность лежит на платформах по определению того, нарушает ли контент законы Великобритании, и они могут использовать наше Руководство по оценке незаконного контента при принятии этих решений», — отметил Ofcom. «Ofcom не является цензором — мы не указываем платформам, какие конкретные посты или аккаунты следует удалить».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
