В Соединенном Королевстве число жалоб, поданных жилищному омбудсмену, выросло более чем вдвое с момента появления ChatGPT: с 2600 в 2022 году до чуть более 7000 в прошлом году. Бюро по защите прав потребителей в финансовой сфере США (CFPB) за тот же период зафиксировало пятикратный рост жалоб. Аналогичные скачки наблюдались в Бразилии в судебных прошениях и в Германии в парламентских обращениях.
Исследователь Крис Шмитц отслеживает этот рост как часть более широкой тенденции, которую он назвал «наводнением агентами». В статье, которая будет представлена в следующем месяце на конференции по этике и обществу в области ИИ, он рассматривает 84 различных случая потенциального «наводнения» в 11 юрисдикциях, находя убедительные доказательства того, что инструменты ИИ меняют способы взаимодействия людей с государственными службами.
Более сложный вопрос — как на это реагировать. В то время как некоторые из новых обращений явно носят враждебный характер, другие являются результатом того, что законные заявители используют ИИ для подачи исков, которые в противном случае были бы отклонены. Хотя некоторые могут рассматривать новые заявки как спам, сгенерированный ИИ, Шмитц видит в этом редкую возможность перестроить социальные службы для эпохи ИИ.
Шмитц изучал услуги, начиная от заявлений на получение пособий и заканчивая официальными судебными апелляциями, но все они имеют онлайн-сервисы, к которым может получить доступ ИИ-ассистент. (Полный набор данных размещен здесь для справки). По методологическим причинам, в статье Шмитца не делается прямого утверждения о том, что ИИ напрямую вызывает всплеск новых заявителей. Однако большинство из 84 случаев следуют одной и той же основной схеме: до 2022 года количество обращений было примерно стабильным, а затем начало расти с возрастающей скоростью по мере распространения технологии ИИ. Важно отметить, что рост в большинстве случаев не замедлился, что предполагает его вероятное продолжение в течение многих лет.
Шмитцу легко понять, как растущие возможности и доступность ИИ могут привести к увеличению его использования.
«Люди узнают, что это возможно, и постепенно это становится все проще сделать… раньше это могло быть связано с необходимостью собирать много контекста и очень точно формулировать запросы для ChatGPT 3.5, а теперь это может быть просто вопрос вставки или фотографирования письма с помощью вашего приложения Claude и получения довольно хорошего ответа за один раз», — сказал он.
Скачок объема аналогичен тому, что испытали многие сервисы по поиску уязвимостей в прошлом году, когда компании обнаружили, что их почтовые ящики завалены низкокачественными отчетами, сгенерированными LLM. Отчеты редко содержали значительные проблемы безопасности, но компании все равно были обязаны проверять их по мере поступления, что приводило к значительному истощению ресурсов. Легко представить, что государственные службы столкнутся с аналогичной проблемой, управляя в пять раз большим количеством заявителей при том же бюджете.
Но в отличие от программ по поиску уязвимостей, заваленных бесполезными сообщениями, Шмитц утверждает, что большинство новых заявлений в государственные службы поступает от реальных людей с законными требованиями.
«Подавляющее большинство случаев, которые мы находим, — это люди, которые имеют право требовать что-то, и они это делают», — сказал он TechCrunch.
Если раньше эти люди не заявляли о своих правах, то, возможно, потому, что работа по подаче заявления была слишком обременительной — это явление известно в политических кругах как административное бремя. Теперь, когда ИИ может снять это бремя, это может стать возможностью переосмыслить многие из этих услуг в более удобном для ИИ формате.
Это масштабная задача, к решению которой мы в основном еще не приступили, но Шмитц видит в этом повод для оптимизма.
«Большая часть успешного внедрения ИИ заключается в возможности детально описать, как выглядит хорошая версия вещей. И любой, кто когда-либо использовал ChatGPT для подачи налоговой декларации, знает, что здесь есть хороший вариант, когда вам помогают», — говорит Шмитц. «Это может стать моментом, чтобы сказать: «Нам нужно переосмыслить практически все, как выглядит этот процесс».»
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
