Надзорный орган Великобритании по защите данных раскритиковал Министерство внутренних дел за то, что оно не раскрыло существенные предвзятости в технологии распознавания лиц, используемой полицией, несмотря на регулярное взаимодействие между организациями.
Эмили Кини, заместитель комиссара Управления комиссара по информации (ICO), заявила, что регулятор узнал об исторических предрассудках в алгоритме, используемом полицией Великобритании для ретроспективного распознавания лиц (RFR), только на прошлой неделе. Этот алгоритм используется в Национальной базе данных полиции (PND).
«Прискорбно, что нам ранее не сообщили об этом, несмотря на регулярное взаимодействие с Министерством внутренних дел и полицией как часть нашей более широкой работы по контролю за тем, как данные используются в государственных службах», – заявила Кини.
«Хотя мы признаем ценную роль, которую технологии могут играть, общественное доверие к их использованию имеет первостепенное значение, и любое восприятие предвзятости и дискриминации может усугубить недоверие. ICO здесь, чтобы поддерживать и помогать государственному сектору сделать это правильно».
ICO запросило у Министерства внутренних дел срочные разъяснения для оценки ситуации и определения дальнейших шагов.
Заявления Кини прозвучали после публикации обновленных тестов точности 4 декабря, проведенных Национальной физической лабораторией по заказу Министерства внутренних дел. Эти тесты исследовали два алгоритма: Cognitec FaceVACS-DBScan ID v5.5, в настоящее время используемый Национальной базой данных полиции, и Idemia MBSS FR, предназначенный для будущих развертываний.
В то время как результаты тестов Idemia были почти идеальными как в идеальных тестовых условиях, так и в реалистичных рабочих условиях, алгоритм Cognitec продемонстрировал значительные слабости при идентификации определенных демографических групп в условиях строгой настройки, предназначенной для исключения ложных срабатываний.
В случае с Cognitec, когда не применялись ограничения, он правильно сопоставлял изображение подозреваемого с человеком в PND в 99,9 процента случаев. Однако, когда тестировщики заставляли его возвращать результаты только тогда, когда показатели сходства были установлены на очень высоких уровнях, эффективно исключая ложные срабатывания, его точность падала до 91,9 процента.
Эта строгая настройка показала, что алгоритм лучше всего идентифицировал азиатских людей, с успехом в 98 процентов. Белых людей правильно идентифицировали в 91 проценте случаев, а чернокожих – в 87 процентах случаев.
Когда показатели сходства были снижены, но оставались на высоком уровне, частота ложных срабатываний увеличилась, непропорционально затрагивая определенные демографические группы. В этих тестах чернокожие женщины чаще всего ошибочно сопоставлялись с эталонным изображением, чем чернокожие мужчины, что приводило к частоте ложных срабатываний 9,9 процента и 0,4 процента соответственно.
При исключении пола частота ложных срабатываний для белых людей (0,04 процента) была значительно ниже, чем для азиатских (4 процента) и чернокожих (5,5 процента) людей.
Министерство внутренних дел сообщило The Register, что результаты RFR никогда не используются в качестве доказательств до проведения ручной проверки, что снижает риск неправильного использования изображений, а обучение и рекомендации были перевыпущены для полицейских сил по всей стране после публикации отчета.
Правительство также поручило Инспекторату полиции провести обзор использования полицией технологии распознавания лиц при содействии Регулятора по вопросам судебной экспертизы, в свете проведенных тестов.
Представитель Министерства внутренних дел заявил, что оно серьезно относится к результатам отчета. «Новый алгоритм был независимо протестирован и приобретен, и он не имеет статистически значимой предвзятости. Он будет протестирован в начале следующего года и будет подвергнут оценке.
«Нашим приоритетом является защита общественности. Эта революционная технология поможет полиции привлекать к ответственности преступников и насильников. В каждом шаге процесса присутствует участие человека, и никаких дальнейших действий не будет предпринято без тщательного рассмотрения результатов обученными офицерами».
Тесты были опубликованы одновременно с запуском Министерством внутренних дел консультации по расширению использования полицией технологии распознавания лиц, несмотря на множество критических замечаний в отношении технологии в различных типах ее развертывания.
Великобритания тратит десятки миллионов на технологию распознавания лиц каждый год и последовательно подтверждает ее эффективность с момента запуска PND в 2011 году. ®
Автор – Connor Jones
