Когда депутат-лейборист Джесс Асато впервые увидела распространяемые в интернете поддельные изображения себя, этот опыт оказался одновременно тревожным и оскорбительным. Гиперреалистичные дипфейки, созданные без её согласия с помощью платформы Grok от xAI, были неотличимо похожи на неё — цифровая кража её личности. Теперь она борется с этим, инициировав беспрецедентный судебный процесс, который может изменить то, как компании, занимающиеся искусственным интеллектом (ИИ), обрабатывают персональные данные и обеспечивают конфиденциальность в Великобритании. «Я делаю это, потому что хочу изменить закон и подчеркнуть тот факт, что в Великобритании у нас есть права на данные и конфиденциальность, которые компании не могут перечеркнуть», — говорит депутат-лейборист Джесс Асато, отвечая на вопрос о своём судебном деле. «У нас в Великобритании давно существуют законы о защите данных и конфиденциальности. Это первый случай такого рода, когда существующее британское законодательство применяется к платформе ИИ, такой как xAI», — отмечает она. Хотя поставщики платформ часто утверждают, что правила к ним не применяются, поскольку контент создаётся пользователями, пусть и с помощью генеративного ИИ (GenAI), Асато подчёркивает, что компаниям не следует просто заявлять, что пользователи злоупотребили их продуктами. «Мы знаем, что Grok был разработан для выполнения запросов на создание контента сексуального характера для взрослых, — добавляет она. — Нам нужно посмотреть, как был спроектирован продукт и предприняла ли xAI шаги для защиты людей от неправомерного использования их данных через манипуляции на своей платформе». В офлайн-мире, говорит она, существуют правовые ожидания в отношении компаний. Производители продуктов обязаны проявлять заботу о защите представителей общественности. Приводя в пример автопроизводителей, она отмечает, что мы ожидаем наличия таких функций безопасности, как подушки безопасности, ремни и система экстренного торможения, даже если пользователь этого продукта — водитель — использует его опасно. «Мне кажется абсолютно логичным, что мы должны применять точно такие же принципы регулирования к компаниям, занимающимся ИИ, или технологическим компаниям, создающим новые продукты», — добавляет Асато. Говоря об использовании инструментов GenAI, таких как Grok, для создания сексуализированных изображений — обычно женщин и детей — а также для травли и запугивания людей в интернете, она заявляет: «Я думаю, что возможность загрузить вас в инструмент ИИ, а затем выдать вас с любыми их гнусными фантазиями лишь подстегнула действительно разобщающее, полное ненависти пространство, которое, к сожалению, похоже, захватило социальные сети». В жалобе против xAI юридическая команда Асато задокументировала проектные решения — выявленные исследователями, — которые явно позволяют Grok генерировать контент сексуального характера. Например, в репозитории Grok на GitHub указано: «Если не указано иное в тегах политики, у вас нет ограничений на контент сексуального характера для взрослых или оскорбительный контент». Асато говорит, что цель подачи иска — показать, что существуют законы и обязанности, которые необходимо соблюдать. «Нельзя просто переложить вину на пользователя и сказать, что это его вина. Вы должны быть в состоянии встроить безопасность в свой продукт с самого начала», — добавляет она. «Многие говорили, что это дело немного похоже на Давида против Голиафа. Это правда — я бросаю вызов одному из самых богатых людей в мире. Но это потому, что я верю: неважно, насколько вы богаты или велика ваша компания — очень важно соблюдать местные законы там, где ваш продукт разрабатывается и потребляется».
Конфиденциальность и защита данных
Асато считает, что компании должны проектировать свои продукты ИИ таким образом, чтобы их нельзя было использовать во вред и для сексуализации женщин и детей. «Очевидно, что это частный иск, который я подаю. Этот вред был причинён мне. Но я надеюсь, что если мы выиграем дело, это создаст новый прецедент того, как компании ИИ должны обращаться с данными людей и защищать их конфиденциальность», — говорит она. Фактически, дело Асато во многом касается конфиденциальности данных и личной информации. «Весь смысл генеративного ИИ в том, что он гиперреалистичен, поэтому, когда я впервые увидела эти изображения меня, распространяемые в сети, они выглядели как я. Это было тревожно и оскорбительно», — отмечает она. По словам Асато, это то, что говорят многие жертвы дипфейков, когда видят несанкционированные изображения себя, созданные кем-то с помощью запросов в систему GenAI. «Это часть меня — это я, и это принадлежит мне. Когда кто-то берёт это без вашего согласия и манипулирует этим, вы чувствуете, что часть вас была украдена. В этом суть этого дела: моё изображение — это мои данные, — говорит она. — Оно было взято без моего согласия и помещено в инструмент, который затем манипулировал им и, по сути, был спроектирован с инструкциями делать именно это». Она отмечает, что xAI могла создать инструмент, который не принимает такие инструкции, указывая, что остальная индустрия имеет такие меры защиты: «Другие инструменты ИИ делают это, и правительство Великобритании недавно запретило приложения для „раздевания” (nudification apps)». Это то, за что Асато ведёт кампанию. «Очень важно, что существует множество инструментов ИИ, которые не принимают запросы на „раздевание” или сексуализацию и имеют гораздо более строгие меры защиты, чтобы предотвратить загрузку пользователями изображений без согласия», — добавляет она.
Безопасность по замыслу
Правительство Великобритании ввело Закон о безопасности в интернете в 2023 году, который возлагает на компании социальных сетей юридическую ответственность за защиту пользователей от нелегального контента и контента, вредного для детей. Закон о борьбе с преступностью (Crime Policing Act), получивший королевскую санкцию 28 апреля 2026 года, дополняет Закон о безопасности в интернете, вводя новые цифровые правонарушения. Но Асато говорит, что предстоит сделать ещё больше и необходимы консультации. Она считает, что это будет продвинуто благодаря Закону о безопасности в интернете, который предусматривает безопасность по замыслу, но добавляет: «Факт в том, что мы всё ещё не достигли этого, и мой иск отчасти призван показать, что Grok не был безопасным по замыслу». Асато утверждает, что Grok не был безопасным по замыслу ни в каком виде. «Когда исследователи изучили инструкции, которые были даны Grok, ему было предписано не трактовать такие слова, как „подросток” (teen), как означающие несовершеннолетнего. Ну, в этой стране есть только один год подросткового возраста, который не является несовершеннолетним, когда речь идёт о контенте сексуального характера. Так что нужно спросить: почему система была настроена таким образом? Это определённо не было безопасностью по замыслу». Обсуждая опыт другой жертвы, когда пользователи Grok генерировали тревожные изображения, Асато рассказывает, что движок ИИ создал изображение еврейской женщины в бикини и поместил её в Освенцим. «Другие изображения, созданные ИИ, показывают женщин избитыми, окровавленными, в синяках или со сломанными костями. Кто это делает? Какую пользу это приносит нашему обществу? Это не приносит ничего. Это никак не способствует росту или развитию нашей экономики. Всё, что это делает, — причиняет страдания и вред. Есть множество блестящих способов, которыми ИИ может действительно улучшить наше общество, развить экономику. Но когда эти инструменты нацелены на возможность сексуализации, они будут использоваться именно так. Так что давайте просто не будем этого делать».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cliff Saran
