Полиция отправила Microsoft Copilot в «камеру предварительного заключения» после скандальной галлюцинации.

Copilot ии полиция Microsoft безопасность по

Полиция Уэст-Мидлендс приостановила использование Microsoft Copilot после скандала: ИИ сгенерировал информацию о несуществующем матче, что повлияло на рекомендацию о запрете прохода израильских болельщиков.

Исполняющий обязанности начальника полиции Уэст-Мидлендс приостановил использование Microsoft Copilot после скандала, который привёл к досрочному выходу на пенсию его предшественника из-за рекомендации запретить израильским болельщикам посещение матча в Бирмингеме.

Рекомендация ведомства заблокировать болельщикам «Маккаби Тель-Авив» доступ на матч Лиги Европы против «Астон Виллы» 6 ноября была частично основана на материалах, сгенерированных инструментом искусственного интеллекта, касающихся срыва несуществующего матча против лондонского клуба «Вест Хэм».

6 января бывший начальник полиции Крейг Гилфорд заявил Комитету по внутренним делам Парламента, что его сотрудники не использовали ИИ для поиска этих материалов, но позже исправил это в письме, признав их применение.

После критики со стороны министра внутренних дел Шабаны Махмуд и других лиц, Гилфорд вышел на пенсию в возрасте 52 лет. Комиссар по делам полиции и преступности Уэст-Мидлендс Саймон Фостер заявил, что уже инициировал процесс, который позволил бы ему уволить Гилфорда, когда тот объявил о своём уходе.

Исполняющий обязанности начальника полиции, Скотт Грин, выступая на публичном собрании с Фостером 27 января, сообщил, что не может обсуждать детали использования Copilot, поскольку этот вопрос находится на рассмотрении Независимого управления по делам полиции (Independent Office for Police Conduct) и отдела по профессиональным стандартам полиции Уэст-Мидлендс.

Однако Грин добавил: «В мой первый же день на посту я немедленно отключил доступ к Microsoft Copilot в рамках ведомства. Как и все, мы будем использовать ИИ в будущем, мы будем использовать Microsoft Copilot, но мы не собираемся этого делать до тех пор, пока я не буду удовлетворён выводами по этому делу и пока у нас не будут разработаны общие политики и руководящие принципы».

В ответ на запрос The Register Фостер заявил: «Искусственный интеллект играет важную роль в работе полиции, повышая производительность, улучшая раскрываемость преступлений и управляя возникающими угрозами. Однако использование ИИ должно быть этичным, законным, прозрачным и основанным на доказательствах, чтобы поддерживать доверие общественности».

«Возникли серьёзные опасения по поводу использования Microsoft Copilot полицией Уэст-Мидлендс при подготовке к обеспечению порядка на футбольном матче «Астон Вилла» против «Маккаби Тель-Авив» в ноябре 2025 года», — добавил Фостер. «Поэтому важно, чтобы полиция Уэст-Мидлендс приостановила его использование до срочного урегулирования вопросов, касающихся управления, надзора и регулирования его применения».

На встрече Фостер также задал Грину вопросы о плохом ведении учёта встреч с голландской полицией и о выявлении предвзятости подтверждения (confirmation bias) в оценке ведомством рисков, исходящих от болельщиков «Маккаби Тель-Авив». Грин принёс извинения за то, как ведомство справилось с этой работой, охарактеризовав просчёты как «обвинительные». Он заявил, что ведомство работает над восстановлением доверия с еврейскими общинами, расследуя каждое сообщение о преступлениях на почве антисемитизма и внедряя обучение по антисемитизму для персонала.

В Белой книге, опубликованной на этой неделе, правительство изложило планы значительного увеличения использования ИИ в правоохранительной деятельности, выделив 115 миллионов фунтов стерлингов на ближайшие три года для создания нового Национального центра ИИ в полиции, который получит название Police.AI и изначально сосредоточится на автоматизации административной работы. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: