По словам дизайнеров контента из Департамента по делам бизнеса и торговли (DBT), обзоры, генерируемые искусственным интеллектом (ИИ) от таких компаний, как Google, выдают ложные сводки информации правительства Великобритании, основываясь на устаревших страницах GOV.UK.
Проблема, как написали старший дизайнер контента Джорджо Ди Тунно и руководитель операций с контентом Нил Старр в посте в блоге GOV.UK, заключается в том, что устаревшие страницы, которые больше не поддерживаются, теперь активно сканируются для ответа на запросы пользователей.
Например, поиск в Google по запросу о стоимости регистрации благотворительной организации в Великобритании выдал обзор ИИ, в котором фигурировали суммы в 13 фунтов стерлингов онлайн или 40 фунтов стерлингов по почте для регистрации в Companies House — цифры, взятые с устаревшей страницы, которая не обновлялась. Фактическая стоимость составляет 100 фунтов стерлингов онлайн или 124 фунта стерлингов по почте.
Когда The Reg попытался выполнить тот же поиск, обзор ИИ от Google сначала сообщил, что регистрация бесплатна, а затем, спустя день, предложил «примерно от 13 до 183 фунтов стерлингов и выше». Ни один из вариантов не был точным.
«Проблема не в том, что правительство пытается запутать людей (это не так), а в том, что непоследовательная информация, всплывающая в обзоре ИИ, воспринимается пользователями именно так», — написали Ди Тунно и Старр. «Одно лишь это восприятие может подорвать доверие к государственным услугам».
«В прошлом большинство этих устаревших, нишевых страниц попадали в бездну нулевых просмотров, и на них больше никто никогда не натыкался». Теперь же агентные поисковые процессы для генеративных сводок ИИ используют эти страницы для ответа на конкретные запросы.
Чтобы решить эту проблему, DBT провела аудит страниц GOV.UK, которые не обновлялись в течение пяти лет, имели менее 11 просмотров за этот период, должны были содержать актуальную информацию и не имели активного владельца, включая страницы, опубликованные упраздненным Департаментом по делам бизнеса, энергетики и промышленной стратегии. Было обнаружено 150 таких страниц, которые с тех пор были перенаправлены на архивные копии, актуальные страницы GOV.UK или соответствующее законодательство.
Департамент также тестирует шестимесячные циклы пересмотра, при этом даты последнего и следующего пересмотра отображаются внизу каждой страницы. Тунно и Старр заявили, что это было «чрезвычайно хорошо воспринято реальными пользователями», поскольку помогает им доверять материалу.
Сводки ИИ — которые поисковые системы часто предоставляют в качестве основных результатов по запросам пользователей — вызывают и другие проблемы у дизайнеров правительственного контента. Глава отдела дизайна Департамента образования Марк Эдвардс недавно предупредил, что они дают обманчиво узкие или неполные ответы на вопросы.
«Теперь нам нужно проектировать с учетом того, что большая часть того, что мы публикуем, будет читаться косвенно, атомизироваться, обобщаться или переосмысливаться системами, которые мы не контролируем», — написал он ранее в этом месяце. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – SA Mathieson
