Речь премьер-министра Великобритании Кира Стармера в понедельник, в которой он настаивал на том, чтобы технологические компании создали средства контроля на устройствах для блокировки просмотра или создания детьми откровенно сексуальных изображений, вызвала тревогу среди директоров по информационной безопасности (CISO), которые опасаются, что та же технология может подорвать безопасность предприятий. Стармер дал технологическим фирмам три месяца на добровольное создание и внедрение таких ограничений, после чего он заявил, что будет добиваться законодательного закрепления этого требования.
Помимо технических и логистических препятствий, которые предстоит преодолеть технологическим компаниям, таких как определение того, является ли изображение неприемлемым и как надежно определить возраст пользователя, стоит вопрос о том, не помешает ли этот процесс защите шифрованием для предприятий по всему миру. А это сводится к тому, где происходит необходимый анализ данных — на устройстве или в облаке.
Стармер не вдался в особые подробности, предпочитая, чтобы технологические компании сами разработали свои планы, но в данном случае детали имеют значение. Аналитики и консультанты заявили о стремлении к тому, чтобы все происходило на устройстве, что позволило бы избежать проблем с шифрованием; если проверяемые данные никогда не покидают устройство, защита шифрованием останется нетронутой.
Однако этот план, предполагающий, что процесс останется на устройстве, кажется крайне маловероятным по ряду причин. Первая проблема — это возможности устройств и возраст оборудования. Хотя инженеры Apple и Google работали бы с новейшими устройствами, значительная часть населения Великобритании использует гораздо более старое и менее мощное оборудование, отметили аналитики.
Хотя 2-, 3- или 4-летний телефон, возможно, все еще сможет справиться с дополнительной нагрузкой, он, вероятно, будет работать со значительным замедлением, достаточным, чтобы пользователи остались крайне недовольны. Это означает, что даже если анализ данных начнется на устройстве, из соображений производительности его, скорее всего, придется перенести в облако. А как только данные переместятся в облако, начнется проблема с зашифрованными данными.
Попытка провести такое сканирование на устройстве в Великобритании обречена на провал, заявил Флавио Вилланустре (Flavio Villanustre), CISO группы LexisNexis Risk Solutions. «Это сделает непригодным для использования большинство устройств, используемых сегодня в Великобритании. Это просто не сработает на устройстве».
Тем не менее, Вилланустре отметил, что анализ на устройстве для подобных усилий, которые потребуют сканирования всего, что загружается на телефон, в поисках запрещенных изображений, может стать жизнеспособным через несколько лет, когда типичное устройство станет намного мощнее. Но не сегодня.
Создает новые риски
Ведущий поставщик приложений для защищенного обмена сообщениями Signal также выступил с резким заявлением против предложения Стармера.
«Требование правительства Великобритании сканировать весь контент на всех устройствах, продаваемых или используемых в Великобритании, на предмет наличия наготы, используя мрачную комбинацию верификации возраста и сканирования контента, не защитит детей. Это подвергает опасности всех нас, одновременно укрепляя доминирование Apple, Google и Microsoft на рынке и их контроль над нашей самой личной информацией», — заявил Signal. «Однажды созданная, [программа] будет расширена, став опасным инструментом, который будет использоваться как в Великобритании, так и за рубежом для цензуры и наблюдения за тем, что они могут счесть «угрозами» или «вредоносным контентом»».
Signal агрессивно выступал против подобных программ и ранее. Аналогичные кампании по защите конфиденциальности также были запущены в других частях Европы.
Давний страх заключается в том, что перемещение зашифрованных данных в облако, независимо от того, остаются ли они зашифрованными или преобразуются в открытый текст, создает возможности для злоумышленников получить доступ к конфиденциальным данным.
«Механизм, который помечает и сообщает о совпадении внешним органам, создает новый, встроенный канал эксфильтрации», — сказал Джефф Вальдес (Jeff Valdes), директор консалтинговой фирмы Acceligence.
Может принести больше вреда, чем пользы
Санчит Вир Гогиа, главный аналитик Greyhound Research, утверждал, что предложение Великобритании, вероятно, принесет гораздо больше вреда, чем пользы. Он указал на короткий трехмесячный срок как на свидетельство отсутствия доброй воли.
«Законодательство такой сложности невозможно разработать за квартал. Крайний срок — это инструмент давления, а не график выполнения. Безопасность детей — это цель. Инспекция всего устройства — не тот путь», — сказал Гогиа. «Apple и Google уже используют обнаружение наготы на устройстве в ограниченных контекстах, и это работает: ребенка можно предупредить, изображение размыть, попытку поделиться прервать».
Гогиа указал на другую логистическую проблему: некоторые устройства, такие как планшеты, часто используются совместно членами семьи, что делает надежное определение возраста практически невозможным.
«Более глубокий недостаток заключается в том, что политика предполагает стабильное соответствие между устройством, человеком и возрастом, а такого соответствия в реальных домохозяйствах не существует», — сказал Гогиа. «Устройство не может знать, что его владелец сменился. Единственная архитектура, которая выдержит это, — это режим «по умолчанию для ребенка» с периодической верификацией взрослого, что является слежкой, проникающей через черный ход бытовой экономики».
Кроме того, отметил он, «дети непропорционально наследуют старые, снятые с поддержки телефоны, на которые мандат не может распространиться. Принудительная замена оборудования создает электронные отходы и наказывает семьи, наименее способные покупать новое».
Карми Леви, независимый технологический аналитик, согласилась с тем, что одни только вычислительные затраты на такие усилия могут сделать это невозможным.
«Требования к вычислениям, особенно с учетом необходимости выполнять такую фильтрацию в режиме реального времени, будут огромными. Тщетно предполагать, что эту возможность можно будет развернуть в масштабе без возникновения серьезных проблем по нескольким направлениям», — сказал Леви. «Простое определение того, как настроить фильтры, — почти невыполнимая задача. Хотя общее определение наготы, а именно отсутствие одежды, в целом согласовано, грань, когда она становится неприемлемой для несовершеннолетних, не является ни статической, ни универсально установленной. Поэтому крайне оптимистично предполагать, что единый порог будет работоспособен в масштабе, предложенном премьер-министром Стармером».
Нидхи Лутра, директор Acceligence, добавила, что логистические и технологические препятствия также являются большой проблемой.
«Технически, некоторые части этого могут работать», — сказала она, но поставщикам придется иметь дело с верификацией возраста, дрейфом моделей и ложными срабатываниями, а также с «отсутствием контекстной информации, которая действительно позволила бы этому работать».
Ставит CISO в «невозможное положение»
Предложение Великобритании также ставит CISO предприятий и ИТ-директоров, которым необходимо защищать конфиденциальные данные, в невозможное положение, сказал Гогиа.
Они «могут управлять управлением устройствами и условным доступом. Чем они не могут управлять, так это обязательной функцией инспекции, которая обновляется в соответствии с политическими, а не корпоративными аппетитами к риску», — указал он. «Предложение не создает автоматически бреши в Signal, WhatsApp* или Teams, но оно создает условия для нового класса брешей вокруг них. Слабость может заключаться не в протоколе обмена сообщениями. Она может находиться в предписанном уровне инспекции, механизме обновления классификатора, рабочем процессе подтверждения возраста или в журналах, которые неизбежно генерирует принудительное исполнение».
Смена режима может привести к злоупотреблениям
Еще одна распространенная обеспокоенность заключается в том, что правительства сменяются, и ограниченные возможности, предоставленные сегодня одному правительству, могут быть использованы совершенно иначе будущим правительством.
Брайан Джексон, ведущий исследователь Info-Tech Research Group, отметил: «нынешнее правительство может использовать это только для обнаружения наготы, но что помешает будущему авторитарному правительству использовать это для обнаружения неблагоприятных политических комментариев? Создание бэкдора означает, что существует потенциал для третьих сторон — хакеров — использовать этот бэкдор для получения доступа к коммуникациям пользователя. Это именно то, чему призваны препятствовать шифрование и меры безопасности на устройствах».
Он добавил: «Функция «Безопасность общения» Apple, Google Family Link и ряд инструментов родительского контроля уже используют ИИ на устройствах для обнаружения и ограничения откровенных изображений на устройствах детей. Правительство не восполняет пробел, который рынок не смог устранить. Оно предлагает передать контроль над существующей возможностью от владельца устройства государству. Родители могут развернуть эту защиту прямо сейчас, на своих условиях. Именно здесь должно находиться это решение».
Райан О’Лири, директор по исследованиям конфиденциальности и правовых технологий в IDC, заявил, что нынешнее предложение касается только Великобритании, и невозможно определить, попытаются ли другие правительства сделать нечто подобное. Он отметил, что все ожидали, что GDPR ЕС станет глобальным стандартом после запуска в 2016 году, но за десять лет этого не произошло.
О’Лири сказал, что если это предложение будет принято в Великобритании, он посоветует руководителям ИТ-отделов и служб кибербезопасности быть особенно осторожными при отправке сотрудников в этот регион.
«По сути, это будут «китайские правила» — такие как изоляция систем (air gapping) и поездки с одноразовыми телефонами с ограниченным объемом данных», — сказал О’Лири. «Это исключительно большое дело, если оно пройдет», но, добавил он, вероятность того, что это произойдет, очень мала. «Похоже, технологические компании блефуют».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Evan Schuman
