Компания Flock теперь рекомендует полицейским управлениям хранить данные в течение семи дней вместо прежних тридцати. Наряду с этим изменением компания представила так называемый «Режим доказательств» (Evidence Mode), который можно включать, когда клиентам необходимо сохранять данные в течение более длительного времени в «исключительных случаях»; для этого требуется указать номер конкретного дела. Теперь клиенты также смогут устанавливать ограничения на передаваемые другим клиентам данные в зависимости от типа расследуемого правонарушения.
Компания также выделила инструмент под названием «Аудит-помощь» (Audit Assistance) как одно из ключевых изменений. Flock запустила этот инструмент в апреле. С тех пор, по заявлениям Flock, «более трети» её клиентов включили его, и теперь стартап требует от всех клиентов активировать его до конца года.
Согласно сообщению в блоге, опубликованному в четверг, Flock заявляет, что «Аудит-помощь» «обнаруживает аномальную активность и помечает её для проверки администратором». Если это происходит, инструмент может автоматически заблокировать помеченных пользователей до вмешательства администратора. По словам Flock, инструмент уже помог клиентам выявить и пресечь злоупотребления.
Несколько руководителей компании разрекламировали возможности «Аудит-помощи». Но, несмотря на заявленную важность, Flock не объяснила подробно, как именно работает «Аудит-помощь».
Некоторые официальные комментарии дают определённое понимание того, что может делать «Аудит-помощь»; но всё становится расплывчатым, когда речь заходит о том, как она это делает.
Например, руководитель отдела доверия и соответствия Flock Эшли Хабер сказала в видео, что «Аудит-помощь» может помечать «то, что может выглядеть как странная история поиска конкретного пользователя», помогая клиентам понять, как их пользователи работают с системой. В другом видео сооснователь Flock Пейдж Тодд заявила: «”Аудит-помощь” фактически выявляет необычные шаблоны на ранней стадии. Например, пользователь неоднократно ищет один и тот же номерной знак в течение более чем 30 дней».
А майор Патрик Криг из полицейского управления Данвуди, штат Джорджия, клиент Flock, описал эту функцию в пресс-релизе как «алгоритм, который уведомил нас о любом виде предвзятости».
Flock описывает «Аудит-помощь» как функцию, которая может «выявлять нетипичную активность на ранней стадии и быстро проверять её с помощью чёткого, документированного рабочего процесса».
Что остаётся неясным — и TechCrunch запросил ответы на эти вопросы — это то, как на самом деле работает этот «алгоритм», на каких данных он обучался и был ли он разработан с использованием большой языковой модели. TechCrunch также спросил, какие именно шаблоны он предназначен выявлять и что именно помечается как «аномальная активность».
По словам Flock, «Аудит-помощь» не основана на машинном обучении или ИИ. Компания сообщила TechCrunch, что «это инструмент для работы с данными, который помечает нетипичные поисковые шаблоны для дальнейшей проверки. Один из примеров, который может вызвать срабатывание, — это когда пользователь ищет один и тот же номерной знак, используя несколько разных кодов дел, что может указывать на злоупотребление. Срабатывание не означает, что это определённо злоупотребление — это лишь означает, что требуется дальнейшее расследование».
Тем не менее, остаются без ответа многочисленные вопросы, в том числе, есть ли у Flock какие-либо статистические данные, показывающие эффективность инструмента, каковы показатели ложных срабатываний и пропусков целей, и проверялся ли он сторонней организацией.
Эксперты по конфиденциальности и критики Flock не впечатлены «Аудит-помощью».
Старший советник по политике Американского союза гражданских свобод Чад Марлоу написал в ответ на объявление Flock, что «нет доказательств того, что инструмент работает последовательно» в борьбе со злоупотреблениями.
«Хотя десятки офицеров недавно были арестованы, уволены или иным образом наказаны за использование Flock в личных целях, Flock утверждает, что эти аресты являются доказательством того, что её инструмент аудита работает», — написал Марлоу. «Однако, если мы не знаем количества офицеров, злоупотребляющих системой, мы не можем сделать вывод, ловит ли Flock и её инструменты аудита 95% нарушителей или 5%. Необходимо, чтобы инструмент аудита Flock был проанализирован независимым оценщиком для определения его реальной эффективности. До тех пор мы не знаем, является ли этот инструмент реальной мерой безопасности или просто декорацией».
Купер Квинтин, исследователь безопасности и старший технолог в области общественных интересов из Electronic Frontier Foundation, сказал TechCrunch, что, возможно, даже не имеет значения, работает ли «Аудит-помощь».
«Если она работает, правоохранительные органы найдут способы её обойти», — сказал он, добавив, что в конечном итоге важно то, будут ли злоумышленники пойманы и привлечены к ответственности. «Если за злоупотребления не будет никаких последствий, и тот, кому [инструмент] сообщает, — это то же самое полицейское управление, которое и допускает злоупотребления, то это просто фиговый листок для Flock. Лучший способ обеспечить подотчётность — принять законы, ограничивающие использование этой технологии, и требовать ордера на её применение».
Рэйчел Левинсон-Уолдман, директор программы «Свобода и национальная безопасность» Центра Бреннана, сказала TechCrunch, что сделать «Аудит-помощь» обязательной — это шаг в правильном направлении и что «в теории» этот инструмент — «отличная идея». Но она также сказала, что сам инструмент «нуждается в проверке», так как недостаточно информации о том, как он работает на практике.
Объявления Flock были сделаны после многих лет сообщений об инцидентах, когда её клиенты неоднократно злоупотребляли её технологией. Ранее на этой неделе трое бывших помощников шерифа из Джорджии были арестованы и обвинены в использовании камер Flock для преследования людей, с которыми у них были «личные отношения на тот момент», как сообщило управление шерифа округа Бибб. В этом случае шериф округа Бибб Дэвид Дэвис особо отметил новый инструмент Flock «Аудит-помощь» за раскрытие злоупотреблений.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lorenzo Franceschi-Bicchierai
