Если ИИ способен находить уязвимости в программном коде, он может сделать то же самое и с юридическими нормами, открывая путь к хаосу.
Феликс Ринге, приглашенный научный сотрудник лаборатории liftlab Стэнфордской школы права и юрист, предполагает, что большие языковые модели (LLM) стали достаточно мощными, чтобы подорвать правовые системы, выявляя на системном уровне эксплуатируемые несоответствия.
«Правовые системы кодифицируют основы общественного порядка на естественном языке, — заявили Ринге и его соавтор Линус Фолькертс в посте в блоге на прошлой неделе. — Подобно компьютерным системам, писаный закон может содержать уязвимости, которые провоцируют эксплуатацию».
Ринге утверждает, что, хотя суды склонны «залатывать» эти текстовые уязвимости посредством толкования законов, возможность автоматизированного обнаружения юридических несоответствий, полезных для злоумышленников, рискует подорвать способность правовой системы устранять пробелы.
В подтверждение своего тезиса он ссылается на недавние работы других юристов, которые рассматривают законы как уязвимый код, например, «Юридические уязвимости нулевого дня: новый вектор риска для продвинутых систем ИИ» и «Ошибки в аппаратном и программном обеспечении правовой системы» [PDF].
Эта аналогия восходит по крайней мере к 1999 году, к книге Лоуренса Лессига «Код и другие законы киберпространства» [PDF] и «Код — это закон: о свободе в киберпространстве». Лессиг приписывает Уильяму Дж. Митчеллу, в книге «Город битов: пространство, место и инфобан» (1995), идею о том, что код является законом киберпространства, добавляя, что он «черпал метафору и у других».
Ринге перевернул эту концепцию, предложив, что закон — это код.
Аналогия между программным кодом и юридическим кодом работает достаточно хорошо, но до определенного предела. И закон, и код имеют свои особенности, связанные с педантичностью форматирования и ритуалами. Сопоставление рушится, когда суды рассматриваются как среда выполнения — недетерминированные исходы судебных процессов не подходят для производственных приложений.
Несмотря на эти расхождения, суть аргумента Ринге заключается в том, что модели ИИ могут выявлять законодательные пробелы в масштабах, которые могут принести в юридический мир хаос, наблюдаемый в настоящее время в экосистеме безопасности программного обеспечения.
Чтобы продемонстрировать это, Ринге и Фолькертс приводят несколько потенциальных пробелов в немецком законодательстве, которые они обнаружили с помощью LLM, отмечая, что они делятся только теми юридическими уязвимостями, которые, по их мнению, не могут причинить серьезного вреда.
Например, поправка к немецкому Положению о профессиональных заболеваниях (BKV) подлежит конституционному требованию указывать свое законодательное основание. Но Ринге и Фолькертс утверждают, что в поправке отсутствует обязательная ссылка. Таким образом, теоретически, журналист мог бы запросить неопубликованное заявление, представленное консультативному совету по профессиональным заболеваниям Германии, в соответствии с правилами свободы информации, оспаривая положение о конфиденциальности, которое, по мнению исследователей, может быть недействительным.
Другой приведенный пример описывает правило о транзитной визе, которое может быть недействительным, поскольку правительство не указало орган, на основании которого было принято это правило.
«Мы считаем, что при распространении дешевых юридических рассуждений системы ИИ могут поставить под угрозу функционирование современных правовых систем, — написали они. — В таком мире законодателям потребуется значительно укрепить процесс законодательства, например, за счет использования передовых ИИ».
Венди Маселл, юрист по трудовому праву из Сан-Франциско и партнер, сообщила The Register, что использование ИИ в юридической сфере стремительно расширяется.
«Некоторые суды Калифорнии, включая Высший суд Лос-Анджелеса, тестируют использование ИИ в качестве судебных клерков, — сказала Маселл. — Обычно судебные клерки помогают суду, исследуя и составляя проекты заключений для рассмотрения судьей. Это означает, что ИИ выполняет эту роль в определенных судах. Литигаторам теперь приходится учитывать, как ИИ анализирует ходатайства и дела.
Это происходит даже тогда, когда я лично обнаруживала, что разные источники ИИ имеют определенную предвзятость или искажение, и часто не могут точно анализировать юридические вопросы. Было лишь вопросом времени, когда ИИ возьмется за законодательный процесс».
Эрик Голдман, заместитель декана по исследованиям и профессор права в Университете Санта-Клары, сообщил The Register, что аргумент Ринге имеет под собой основания.
«Я думаю, что методология использования ИИ для выявления потенциальных законодательных пробелов логична, — сказал Голдман. — Однако потребуется тщательная проверка человеком, чтобы определить, являются ли выявленные ИИ пробелы действительно таковыми. Законодательные пробелы также могут не иметь юридических последствий, или, по крайней мере, не иметь значительных; и законодательные органы часто исправляют любые серьезные пробелы, как только они будут выявлены».
Голдман отметил, что идея использования ИИ законодателями в процессе разработки законопроектов является амбициозной, по крайней мере, в краткосрочной перспективе.
«Законодатели часто разрабатывают законы с учетом различных целей и приоритетов, и избегание законодательных пробелов редко является высоким приоритетом, — пояснил он. — Но многие законодательные органы имеют юридических консультантов, ответственных за преобразование проектов законопроектов в окончательный законодательный текст, и я могу представить, как юридические консультанты могли бы извлечь выгоду из использования ИИ для выявления пробелов в процессе разработки в рамках своих стандартных протоколов очистки». ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
