Последняя попытка Министерства внутренних дел ускорить принятие решений по предоставлению убежища с помощью ИИ столкнулась с неожиданной проблемой: новый отчет показывает, что более одной пятой резюме интервью, проверенных экспертами, не прошли проверку на точность.
В 20-страничном исследовании, проведенном Open Rights Group (ORG), утверждается, что ведомство продолжает использовать инструменты ИИ, несмотря на опасения относительно их точности, контроля и обещанного повышения эффективности.
Выводы, основанные на запросах о предоставлении информации и переписке с министрами, касаются двух систем, используемых сотрудниками Министерства внутренних дел: Asylum Case Summarisation (ACS), которая обобщает интервью для предоставления убежища, и Asylum Policy Search (APS), чат-бота, помогающего чиновникам искать информацию о политике стран. Обе системы используют модель GPT-4o от OpenAI через Microsoft Azure AI Foundry.
Правительство настаивает на том, что ответственность за решения о предоставлении убежища по-прежнему несут люди, однако ORG ставит под сомнение, насколько надежно сотрудники могут выявлять ошибки в информации, сгенерированной ИИ.
Данные, полученные правозащитной группой, показывают, что 45 из 203 резюме интервью, сгенерированных ИИ, не прошли первоначальную проверку экспертами после внедрения системы в апреле 2026 года. Это составляет 22% отказов по сравнению с 9% отказов, зафиксированных во время первоначального пилотного проекта.
Еще 19 резюме были отмечены для дальнейшего рассмотрения. Данные также включают 56 проверок второго этапа, из которых 30 не соответствовали требуемому стандарту.
Ошибки могут включать фактические неточности и искажения того, что говорили просители убежища во время интервью. ORG также обнаружила, что резюме могли пройти проверку, даже если они упускали важные детали, при условии, что представленная информация была точной.
Несмотря на эти результаты, было проверено относительно небольшое количество резюме. ORG оценивает, что эксперты Министерства внутренних дел проверили только 0,3% с апреля по июль, исходя из прогнозируемой ежемесячной загрузки ведомства в 17 515 дел.
ORG также поставила под сомнение, действительно ли инструменты экономят время. Группа утверждает, что среднее ежемесячное количество первоначальных существенных решений по предоставлению убежища с апреля 2026 года снизилось примерно на 42% по сравнению с тем же периодом 2025 года, в то время как среднее время от интервью до принятия решения увеличилось на 29%.
Хотя эти цифры не доказывают, что ИИ стал причиной замедления, они дают мало свидетельств повышения производительности, обещанного министрами.
Контроль над отдельным инструментом Asylum Policy Search также, по-видимому, отсутствует. Министерство внутренних дел подтвердило в августе, что экспертное тестирование прекращено, несмотря на предыдущие заверения депутатам о продолжении проверок. ORG заявляет, что резюме результатов тестирования не было подготовлено.
Тем временем просителям убежища не сообщают конкретно, когда в их делах использовался ИИ, и они не могут просматривать или исправлять резюме, сгенерированные по итогам их интервью.
ORG также ставит под сомнение заявления Министерства внутренних дел о человеческом контроле. Собственная оценка защиты данных ведомства гласит, что ACS автоматизирует работу, ранее выполняемую техническими специалистами, которые анализировали и обобщали дела о предоставлении убежища перед передачей их лицам, принимающим решения. ORG предупреждает, что инструмент может устранить опытный уровень проверки, а не просто сэкономить время сотрудников.
Группа призывает приостановить действие обоих инструментов и провести их независимый аудит, утверждая, что существующие меры безопасности недостаточны для принятия решений, определяющих, может ли человек остаться в Великобритании.
Это не первый случай, когда технологические планы Министерства внутренних дел подвергаются критике. В июне более 60 правозащитных групп призвали министров отказаться от планов по оценке возраста детей-просителей убежища с помощью ИИ, предупреждая, что технология ненадежна в критическом возрастном диапазоне от 16 до 18 лет.
Позднее в том же месяце инспекция обнаружила, что долгожданная иммиграционная система Atlas ведомства не предоставляла сотрудникам обратную связь по апелляциям о предоставлении убежища, вынуждая персонал использовать обходные пути.
Министерство внутренних дел не ответило на вопросы The Register. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
