Проведя примерно 31 миллион тестов, Сверинген говорит, что теперь может создавать узоры по запросу, которые при нанесении на одежду и предметы мешают большинству широко используемых считывателей номерных знаков и камер наблюдения обнаруживать то, что скрыто под узором, — от людей до транспортных средств.
Его проект, который он называет noRecognition, позволяет людям избегать автоматического обнаружения и алгоритмической слежки, применяемой в США и за их пределами.
В последние годы камеры наблюдения получили возможность отслеживать происходящее в записи: от фиксации номеров превышающих скорость автомобилей до использования распознавания лиц для идентификации подозреваемых в преступлениях, хотя с переменным успехом и иногда с пугающими последствиями. Алгоритмы обнаружения, которые сегодня управляют большинством камер наблюдения, способны обрабатывать огромные объёмы видеозаписей, позволяя правоохранителям выделять интересующие события — подобно поиску иголки в стоге сена.
Сгенерированные компьютером узоры Сверингена не блокируют запись видео камерами наблюдения. Вместо этого они нарушают способность камеры распознавать объекты, людей или лица, так что камера не выдаёт сигналов обнаружения. Блокируя способность камеры засечь то, что скрыто под узором, человек снова становится иголкой в стоге сена — пока кто-то не узнает, где искать.
«Конфиденциальность — это фундаментальное право», — сказал Сверинген TechCrunch в телефонном разговоре на этой неделе. Он описал свои узоры как способ позволить людям «отказаться от отслеживания».
В ходе первого публичного теста в пятницу на конференции по кибербезопасности Def Con в Лас-Вегасе Сверинген успешно продемонстрировал узор, нанесённый на автомобиль, доказав, что эти узоры могут эффективно обходить обнаружение камерами наблюдения в реальном мире.
Обучение модели рисованию
В разговоре из своего дома в Канзас-Сити, где он является сооснователем встречи по кибербезопасности SecKC, Сверинген рассказал TechCrunch, что как специалист по кибербезопасности он остро осознаёт риски для конфиденциальности и безопасности, связанные со слежкой.
Он описал, как его город наводнён камерами наблюдения, которые иногда расположены всего в нескольких футах друг от друга. Он сказал, что он и другие никогда не давали согласия на то, чтобы за ними наблюдали, точно так же, как он никогда не соглашался на использование правительством его водительских прав для распознавания лиц.
Сверинген назвал себя белым мужчиной средних лет, живущим в центре Соединённых Штатов, и признал, что поэтому он не сталкивался с трудностями или дискриминацией из-за того, кто он есть или как выглядит. Сверинген рассказал, что в прошлом году он хотел посетить протестную акцию, но почувствовал себя неуютно и обеспокоенно из-за огромного количества камер, которые могли отслеживать людей, реализующих свои конституционные права на свободное выражение мнения.
Если он чувствовал себя так, то, несомненно, и другие испытывали то же самое, включая тех, кто хотел реализовать свои права, но сам мог чувствовать себя небезопасно или неуютно. Сверинген взялся за работу.
С тех пор как существуют камеры, способные что-то обнаруживать, предпринимаются попытки противостоять этой технологии. Несколько художественных проектов и брендов одежды представили вещи, помогающие людям обманывать системы распознавания лиц. Некоторые производители очков подхватывают эту тенденцию, хотя и не очень эффективно.
Сверинген сказал, что его исследование опирается на некоторые из этих ранних работ, которые показали, что блокировать обнаружение камерами возможно.
Он начал в прошлом году с создания лаборатории для проверки концепции, начав с последовательного обхода одного за другим алгоритмов обнаружения из открытых источников для видеокамер. В течение года он дорабатывал узоры, расширяя тесты с помощью дополнительной вычислительной мощности. Он поблагодарил широкое сообщество, которое предоставило оборудование для продвижения проекта.
Со временем его прототип превратился в модель обучения с подкреплением — по сути, автономную систему, которая могла самостоятельно обучаться на том, какие узоры работают против конкретных алгоритмов камер, а какие нет. Простыми словами, Сверинген рассказал TechCrunch, что он по сути научил свою модель «рисовать».
Каждый раз, когда узор не срабатывал и алгоритм его обнаруживал, модель пыталась снова, снова и снова, пока в итоге не обходила сразу несколько алгоритмов.
Вскоре его модель начала находить идеальные рецепты узоров, способных обходить все 11 протестированных им алгоритмов обнаружения с открытым исходным кодом, включая программное обеспечение, управляющее считывателями номеров Flock, нательными камерами Axon и камерами, работающими на Clearview AI.
Теперь модель создаёт новые узоры каждую минуту, и каждая новая партия математически лучше предыдущей, сказал он.
В пятницу на конференции по кибербезопасности Def Con в Лас-Вегасе Сверинген провёл первый реальный тест. При поддержке Donut Media тест включал покрытие автомобиля Toyota Yaris 2009 года одним из новейших узоров Сверингена, чтобы проверить, будет ли машина невидима для обнаружения камерой Flock.
«Мы доказали, что это эффективно», — сказал Сверинген, хотя колёса оказались проблемой, добавил он. Видео демонстрации выйдет в ближайшие несколько недель, сообщила Donut Media.
Теперь, имея за плечами публичную демонстрацию в Лас-Вегасе, проект является ранним доказательством того, что можно избежать алгоритмического обнаружения в общественных местах. Следующий шаг — сделать узоры доступными для тех, кто хочет их использовать, сказал он.
Проект noRecognition также запустил краудфандинговую кампанию, чтобы помочь финансировать продажу первых товаров с узорами — от футболок до толстовок, а в перспективе — и плёнок для автомобилей с нанесённым узором. Сверинген сказал, что цель — сделать узоры качественными, с достаточным разрешением для работы на расстоянии, и при этом эстетически привлекательными.
Он сказал, что не выкладывает свои самые сильные узоры в интернет, чтобы производители камер не могли их обойти, но работа ещё не закончена. Его модели продолжают генерировать новые узоры.
«Каждая неудача улучшает мою модель, поэтому [узоры] становятся всё лучше и лучше», — сказал он.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Zack Whittaker
