Суд в Орегоне оштрафовал адвоката на 10 000 долларов за подачу юридического меморандума с цитатами и выдержками, сгенерированными искусственным интеллектом (ИИ), согласно новому сообщению издания Oregonian. Это самый крупный штраф на данный момент за цитирование вымышленных дел в этом штате, и он мог бы быть выше, но судьи проявили некоторое снисхождение, как сообщает газета.
Адвокат, которого Oregonian идентифицировал как Билла Гиорсо из Сейлема, подал в Апелляционный суд Орегона юридический меморандум, содержащий 15 фальшивых ссылок и девять ложных цитат. Сообщается, что Гиорсо свалил вину за галлюцинации ИИ на помощника юриста и изначально оспаривал штраф.
Апелляционный суд Орегона впервые оштрафовал другого адвоката за подобную практику еще в декабре 2025 года. Коллегия из трех судей постановила, что за подобные проблемы следует назначать штраф в размере 500 долларов за каждую фальшивую ссылку и 1000 долларов за каждую ложную цитату или утверждение о праве. С учетом всех галлюцинаций, Гиорсо изначально был оштрафован на 16 500 долларов, но судьи ограничили сумму 10 000 долларами.
По словам судей по этому делу, Гиорсо объяснил, что его сотрудники спрашивали у Google, являются ли цитируемые дела реальными, и им ответили, что они подлинные: «Если спросить у поисковой системы Google, реальны ли многие из сфабрикованных дел, она сгенерирует ответ, используя свою поисковую систему на основе искусственного интеллекта, подтверждающий, что сфабрикованные [дела] на самом деле реальны».
Люди часто думают, что могут проверить факты, созданные с помощью ИИ, спросив у чат-бота ИИ, реально ли это. Генеративные инструменты искусственного интеллекта не являются надежными средствами проверки фактов. Некоторые люди также полагают, что могут гарантировать, что их чат-бот ИИ не выдумывает ложную информацию, если просто дать инструменту инструкцию вроде «не галлюцинируй». Это не работает.
Судьи написали, что Гиорсо должен был знать, что «подача меморандума с непроверенными и в конечном итоге сфабрикованными ссылками может нарушать обязанности адвоката по профессионализму, правдивости и честности перед судом».
Неясно, использовал ли офис Гиорсо исключительно ответы ИИ из поисковой системы Google или же для создания галлюцинаций использовались другие чат-боты ИИ. Гиорсо не сразу ответил на вопросы, отправленные по электронной почте в четверг.
За последние годы появилось бесчисленное множество историй о том, как адвокаты подавали юридические документы с галлюцинациями ИИ. Большинство адвокатов отделываются предупреждением, но есть судьи, которые выносят денежные взыскания, подобные штрафу, наложенному на Гиорсо.
Сообщается, что в прошлом месяце другой адвокат в Орегоне был оштрафован на 500 долларов за одну фальшивую ссылку. Коллегия из трех судей в Новом Орлеане в прошлом месяце обязала адвоката выплатить 2500 долларов за цитирование вымышленных дел в меморандуме.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Matt Novak
