Исследователи из Калифорнийского университета в Ирвайне (UC Irvine) разработали устройство для захвата и принудительного крушения дронов. Атака под названием FlyTrap использует специальные паттерны для эксплуатации уязвимостей в системах автономного отслеживания целей (Autonomous Target Tracking, ATT), которые часто называют Active Track, Motion Track или Dynamic Track. Паттерны FlyTrap легко переносить и развертывать кем угодно, поскольку исследователи напечатали их на «адверсариальных зонтах». По сути, это выглядит как восхитительно низкотехнологичное противодействие высокотехнологичной угрозе. Зонты также полезны, если идет дождь или для создания переносной тени.
Атака FlyTrap была продемонстрирована в полевых условиях, буквально, одним из исследователей на видео выше. Специально созданный сгенерированный ИИ паттерн демонстрируется путем раскрытия зонта после того, как дрон зафиксировался на цели для отслеживания человека в поле. В частности, визуальный паттерн выполняет атаку физического притягивания на следующем поколении (physical distance pulling, PDP), которая работает с разных углов, даже в движении и в реальных условиях. Эта демонстрация сработала на трех протестированных коммерческих дронах: DJI Mini 4 Pro, DJI Neo и HoverAir X1.
Визуальный элемент, напечатанный на зонте, физически притягивает дроны-жертвы, поскольку их нейросетевые системы отслеживания интерпретируют паттерн как объект, удаляющийся от них. Когда дрон приближается к зонту, паттерн заставляет ограничивающую рамку наведения продолжать сжиматься — таким образом, дрон движется, чтобы приблизиться. Автономные дроны, заманенные паттерном, затем могут быть легко пойманы с помощью пушки с сетью или принуждены к падению на землю.
Исследование показывает, что FlyTrap значительно эффективнее предыдущих техник состязательного машинного обучения (adversarial‑ML), таких как старые технологии PDP и Targeted Gradient Transfer (TGT).
«Автономное отслеживание целей представляет собой как огромный потенциал, так и значительный риск», — заявил соавтор статьи Альфред Чен, доцент кафедры компьютерных наук UC Irvine. Чен напоминает, что автономные дроны используются в таких областях, как пограничный патруль и общественная безопасность, но также и злоумышленниками.
Ведущий автор, Шаоюань Се, аспирант-исследователь компьютерных наук UC Irvine, добавил, что «Наши выводы подчеркивают острую необходимость в улучшении безопасности систем [автономного отслеживания целей] до их более широкого развертывания в критически важной инфраструктуре».
Было бы интересно увидеть или услышать о применении FlyTrap в реальном мире. Однако компании DJI и HoverAir были ответственно уведомлены об уязвимостях нейронной обработки в их системах автономного отслеживания.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mark Tyson
