Голландский надзорный орган по данным выявил проблемы безопасности в очках с ИИ

умные очки ии безопасность конфиденциальность кибербезопасность theregister.com

Нидерландское управление по защите данных предостерегает от покупки умных очков с ИИ из-за серьезных рисков безопасности. Устройства неправильно интерпретируют инструкции к лекарствам и другие сценарии, влияющие на безопасность людей.

Нидерландское управление по защите данных (AP) официально предостерегло потребителей от покупки умных очков с искусственным интеллектом после того, как тесты безопасности выявили тревожное поведение, выходящее за рамки их спорных возможностей записи.

AP недавно протестировало шесть различных моделей умных очков и обнаружило вопиющие проблемы, в том числе готовность демонстрировать советы по знакомствам взрослому пользователю, который выразил интерес к несовершеннолетнему.

В другом случае, связанном с симуляцией сердечно-легочной реанимации (СЛР), тестировщики отметили, что одна пара очков сообщила пользователю, что экстренные службы были вызваны и должны прибыть на место происшествия, хотя никто не делал такого вызова.

Некоторые очки неправильно обрабатывали предупреждения о безопасности на детских игрушках, другие допускали ошибки при чтении инструкций к лекарствам, а третьи неверно интерпретировали предупреждения о экстремальных погодных явлениях.

AP не уточнило модели, которые оно тестировало, заявив лишь, что были протестированы шесть моделей стоимостью от менее 100 евро (110 долларов США) до более 500 евро (550 долларов США), включая две, которые «были тщательно протестированы в смоделированных реальных ситуациях, где безопасность человека играла ключевую роль».

Представитель также отказался сопоставить какое-либо конкретное поведение с моделью по ценовой категории (например, советы по знакомствам с несовершеннолетними, связанные с парой очков за 354 евро), добавив, что исследование было направлено на более широкое освещение рисков, связанных с очками с ИИ.

«Очки, которые незаметно снимают вас, уже вызывают беспокойство. Очки, которые к тому же дают неверные советы, когда на кону чья-то жизнь, — это уже слишком», — заявила Моник Вердье, заместитель председателя AP.

«ИИ предлагает множество возможностей, но мы должны иметь возможность доверять этой технологии. В случае с исследованными очками с камерой этому доверию в настоящее время нельзя оправдать».

Предупреждение, выпущенное на этой неделе, следует за предыдущей работой регулятора в отношении умных очков. В сентябре AP напомнило общественности, что каждый имеет право на неприкосновенность частной жизни, и призвало организации запретить их, где это необходимо.

В том же предупреждении упоминались потенциальные риски, связанные с обработкой данных в соответствии с GDPR, а также риски, связанные с обучением ИИ.

AP усилило эту ранее высказанную критику, заявив, что последние тесты показали, что функции ИИ полагаются на обработку данных с использованием серверов, расположенных в основном за пределами Европейского Союза. В связи с этим было установлено, что пользователи не получали достаточной информации о том, как ИИ обрабатывает собранные им данные.

Что касается кибербезопасности, тесты выявили ряд проблем, включая возможность для людей, находящихся поблизости от пользователя очков, подключаться к устройству без разрешения, просматривать записи, а в некоторых случаях — управлять камерой.

Кроме того, регулятор повторил ранее высказанные опасения по поводу умных очков — тех, которые помогли им получить свое разговорное название «очки извращенцев».

Его тесты показали, что «практически все исследованные очки с камерой» имели тусклые и легко закрываемые индикаторы записи, которые должны четко показывать, когда пользователь ведет запись.

AP заявило, что модели также могли быть настроены на запись, даже когда индикатор был закрыт, что противоречит заявлениям производителей.

«В результате посторонние едва ли могут увидеть, снимают ли их», — говорится в сообщении.

Технология имеет ряд полезных применений, таких как помощь слабовидящим, людям с низким уровнем грамотности или для множества других сценариев, когда людям нужна помощь в понимании окружающего мира.

Однако официальная позиция надзорного органа в отношении технологии в ее нынешнем виде считает умные очки «небезопасными… из-за рисков для пользователей и посторонних».

Вердье заявила, что политики в Нидерландах и по всей Европе должны принять во внимание результаты при разработке политики в области ИИ.

«Важно, чтобы мы, как общество, научились справляться с такими высокорискованными продуктами ИИ», — сказала она.

«Простое запрещение всего дает некоторую свободу действий вначале, но мы не можем поддерживать это бесконечно. Важно, чтобы мы коллективно работали над повышением осведомленности, устойчивости и этического сознания».

Умные очки не могут избавиться от ненависти

Когда DEF CON объявил о политике запрета «очков извращенцев» перед своим мероприятием в августе, это решение было широко одобрено участниками.

«Приятно видеть политику «без очков извращенцев» на DEF CON», — заявила тогда Ева Гальперин, директор по кибербезопасности EFF.

Несколько других организаций ввели аналогичные ограничения, в том числе Monopoly Events, управляющая UK Comic Cons, национальная сеть пабов Wetherspoons и даже Иммиграционная и таможенная служба (ICE).

Большинство представителей общественности, вероятно, смирились с тем фактом, что поколение смартфонов и их готовность снимать повсюду означают отсутствие закрепленного права человека на неприкосновенность частной жизни в общественных местах.

Публичная видеосъемка когда-то предполагала определенное ожидание или уважение к личной жизни прохожих, хотя пользователи смартфонов постепенно искоренили это со временем.

Нравится вам это или нет, но обычно считается, что смартфон в любой момент записывает что-то или кого-то, особенно в городских районах.

Теоретически, тот факт, что умные очки могут записывать в общественных местах, не сильно отличается от того, что уже стало ожидаемым от смартфонов.

Однако, учитывая их сходство с обычными очками и возможность скрывать индикатор записи, это делает акт публичной записи через очки гораздо более скрытным и, следовательно, вызывающим беспокойство.

Со смартфонами легко понять по языку тела пользователя — держа телефон перед собой — что он записывает. Носители умных очков не демонстрируют явных сигналов во время захвата изображений или видео, что вызывает чувство беспокойства по поводу технологии в целом.

Быстрый поиск в Интернете по запросу «нарушение конфиденциальности умных очков» выдает множество жалоб на эту технологию, часто касающихся поведения по отношению к женщинам и детям.

Существуют также опасения по поводу того, как легко устройства могут пройти проверки безопасности, потенциально предоставляя возможности тем, кто желает причинить больший вред, чем простое нарушение личной конфиденциальности.

Совместное расследование The Observer и BBC Radio 4 недавно показало, как очки с ИИ незамеченными прошли через сканеры безопасности аэропортового типа, используемые в парламенте Великобритании.

Два новостных издания обнаружили, что китайские очки стоимостью 60 фунтов стерлингов (78 долларов США) обошли сканеры и могли использоваться для чтения документов вверх ногами на столах депутатов, записывая такие данные, как номера телефонов и адреса для последующего доступа. ®

*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: