Потенциально затрагивая все известные поисковые системы на базе ИИ и чат-боты, которые плохо перефразируют исходные ссылки, немецкий суд постановил, что Google несет ответственность за ложные утверждения в AI Overviews (Обзорах ИИ).
Предварительное решение было вынесено по делу, о котором сообщило издание The Decoder, в котором два издателя обнаружили, что Обзоры ИИ от Google ошибочно связывали их с мошенничеством и другими сомнительными видами деловой активности. После очернения издателей путем выдвижения утвердительных заявлений вроде «Да, [компания] известна сомнительной деловой практикой и часто воспринимается как мошенничество», Google не исправил вводящую в заблуждение информацию, даже после того, как издатели направили письмо с требованием прекратить и воздерживаться от дальнейших действий ранее в этом году.
Google использовал обычные аргументы, чтобы обезопасить себя от ответственности за ложные заявления в Обзорах ИИ, например, утверждая, что большинство пользователей понимают, что результаты работы ИИ не всегда точны и должны быть проверены.
Однако суд счел, что, в отличие от традиционных поисковых систем, которые просто представляют списки ссылок на заявления третьих сторон, инструмент Google делал «самостоятельные, новые и существенные заявления», основанные на собственной неверной интерпретации ссылок в Интернете.
Это проблема, как постановил суд, поскольку, хотя издатели, возможно, могли подать в суд, чтобы остановить третьи стороны от публикации клеветнических заявлений, появляющихся в результатах поиска Google, только Google может исправить лежащий в основе алгоритм и результаты, отображаемые в Обзорах ИИ. И поскольку, по крайней мере изначально, компания этого не сделала, она, следовательно, «должна нести ответственность», постановил суд. Кроме того, аргумент Google был сочтен особенно слабым, поскольку обзор ИИ в данном случае «содержит утверждения, которые вообще не фигурируют в результатах поиска».
Постановление суда, требующее временного запрета, не позволяющего Google распространять ложные утверждения в любых дальнейших Обзорах ИИ, может иметь глобальные последствия, поскольку суд, по-видимому, первым возложил ответственность на ИИ-компанию за высказывания, сгенерированные ИИ.
В прошлом ИИ-компании надеялись, что отказ от ответственности, предупреждающий о дезинформации, защитит их от судебных исков по поводу недостоверных результатов. В прошлом году один из разработчиков чат-ботов даже утверждал, что речь ИИ является отдельной категорией «чистой речи» и что Первая поправка должна ее защищать.
Однако, согласно переводу постановления немецкого суда, выполненному Google, ложные результаты были «преимущественно выражением коммерческой деятельности ответчика», а «мнения» и ложные заявления ИИ-инструмента могли повлиять на общественное мнение.
,
Суд пришел к выводу, что, взвесив баланс, интерес издателей в удалении ложной информации перевесил права Google на свободу слова в коммерческой деятельности.
ИИ не является необходимостью для поиска в вебе
Исторически любой потенциально вредоносный контент, всплывающий в результатах поисковых систем, был защищен от прямой ответственности, поскольку такое всплывание считалось в значительной степени неизбежным при помощи пользователям в сортировке огромного клубка информации в Интернете. Но немецкий суд подчеркнул, что поисковые системы на базе ИИ не пользуются такой же защитой, поскольку резюме ИИ просто предоставляют «дополнительную функцию — ту, без которой использование поисковой системы по-прежнему возможно (и возможно), и без которой пользователи вполне способны находить результаты среди «потока данных»».
Иными словами, никому не нужен ИИ для поиска в Интернете, поэтому ИИ-компании не могут просто позволять своим инструментам приписывать ложные утверждения фейковым источникам, не неся при этом никакой ответственности.
Суд также, похоже, упрекнул Google за то, что он ожидает, что пользователи не будут «слепо доверять» обзорам ИИ, отметив, что полезность ИИ-инструмента «была бы значительно снижена, если бы «Обзор ИИ» в целом считался ненадежным и если бы каждая отдельная отображаемая ссылка требовала независимой проверки».
Похоже, что люди не так подходят к поисковым инструментам на базе ИИ. The Decoder отметил опрос Pew в июле прошлого года, который показал, что большинство людей не переходят по ссылкам-источникам в Обзорах ИИ, а также анализ опубликованный The New York Times в мае, который показал, что Обзоры ИИ с текущей моделью Gemini 3 неточны примерно в 9 процентах случаев, а неточные ссылки-источники встречаются примерно в 56 процентах случаев.
В совокупности эти выводы позволяют предположить, что ИИ-инструмент Google может выдавать миллионы неверных ответов ежедневно, при этом немногие пользователи проверяют информацию. Если другие суды согласятся с тем, что технологические компании несут ответственность за любые клеветнические результаты, возникающие в этот экспериментальный период хаоса в поиске на базе ИИ, крупнейшие лидеры в области ИИ могут вскоре оказаться погребенными под судебными исками.
Остается неясным, планирует ли Google обжаловать решение или, возможно, начнет быстрее реагировать на запросы об исправлении ложных заявлений в Обзорах ИИ после вынесения постановления.
Google, вероятно, будет оспаривать предварительное решение. В ответ на запрос о комментарии представитель Google сообщил Ars, что «мы вкладываем значительные средства в качество Обзоров ИИ, чтобы подавляющее большинство ответов предоставляли точную информацию, и они разработаны так, чтобы отражать информацию, существующую в Интернете. Мы тщательно изучаем это решение, которое еще не является окончательным».
Эта статья была обновлена с включением заявления представителя Google.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
