Интервью Представьте себе ботнеты в физической форме, и вы получите довольно хорошее представление о том, что может пойти не так с наплывом гуманоидных роботов, оснащенных искусственным интеллектом, которые, как ожидается, интегрируются в общество в ближайшие десятилетия.
Morgan Stanley недавно предсказала, что выручка от роботов может превысить 5 триллионов долларов к 2050 году, и такие компании, как Unitree Robotics, Agility Robotics и Engineered Art, наряду с крупными автопроизводителями, включая BMW, Toyota, Tesla и Hyundai (которой также принадлежит Boston Dynamics), разрабатывают гуманоидных роботов.
Эти двуногие машины и их четвероногие друзья предназначены для использования на поле боя и в правоохранительных операциях, в лабораториях и академических кругах, а также на складах и производственных предприятиях. Таким образом, обеспечение безопасности этих роботов “обязательно”, заявил в интервью The Register Джозеф Рук, директор по анализу рисков в Insikt Group компании Recorded Future.
По прогнозам BofA Global Research, к 2060 году в эксплуатации будет 3 миллиарда таких роботов, и наихудшим сценарием с точки зрения безопасности будет “ситуация из фильма “Я, робот” без возможности возврата назад”, – сказал Рук в интервью. “Ботнеты в физической форме – это реальность”.
В отчете, опубликованном во вторник, Рук излагает потенциальные последствия непринятия этих мер предосторожности немедленно и предсказывает, что в следующем десятилетии, вероятно, появится совершенно новая отрасль, занимающаяся обеспечением безопасности этих роботов.
И это не просто сюжеты из Голливуда или истории о надвигающейся катастрофе от продавцов систем безопасности.
В конце сентября исследователи опубликовали технические подробности о работающей proof-of-concept хакерской атаке, которая использовала несколько уязвимостей – жестко закодированные криптографические ключи, тривиальный обход аутентификации и незащищенную инъекцию команд – в интерфейсе конфигурации Bluetooth Low Energy (BLE) Wi-Fi компании Unitree Robotics, используемом гуманоидными роботами китайской компании.
“Что особенно беспокоит, так это то, что это полностью червеобразно – зараженные роботы могут автоматически компрометировать других роботов в радиусе действия BLE”, – написали Виктор Майораль-Вильчес, Андреас Макрис и Кевин Финнистерре. “Эта уязвимость позволяет злоумышленнику полностью захватить устройство”.
По словам Рука, три фактора объединяются, образуя “идеальный шторм” для этих воплощенных систем искусственного интеллекта.
“Во-первых: мы уже используем робототехнику, мы уже давно используем робототехнику на заводах, а теперь разрабатываем шагающих роботов”, – сказал он.
У вас есть робототехника, у вас есть искусственный интеллект, и теперь у вас есть потребность. Это идеальный шторм, чтобы все это просто взлетело до небес
“Второе: у нас есть средства для того, чтобы эти воплощенные вещи учились, поэтому их датчики и слуховые аппараты теперь могут учиться так же, как вы обучаете ИИ в серверном блоке, где он содержится”.
Третий фактор связан с сокращением населения мира в сочетании со старением населения, что, как ожидается, приведет к нехватке рабочей силы и тому, что многие страны обратятся к технологиям в целом – и особенно к роботам – для повышения производительности.
“У вас есть робототехника, у вас есть искусственный интеллект, и теперь у вас есть потребность”, – сказал Рук. “Это идеальный шторм, чтобы все это просто взлетело до небес”.
Как и любые устройства, подключенные к Интернету, роботы уязвимы для кибератак в виде угона, утечек данных, долгосрочного шпионажа и кражи интеллектуальной собственности, что подвергает риску не только пользователей этих машин, но и компании (и их поставщиков), которые производят гуманоидных роботов.
Хотя Recorded Future публично не сообщала о каких-либо взломах робототехнических компаний, ее охотники за угрозами отслеживают RedNovember (Microsoft называет эту команду Storm-2077) и другие спонсируемые китайским правительством шпионские группы, которые нацелены на оборонные, электронные и производственные компании.
“У меня нет конкретных доказательств того, что они охотятся за робототехникой, хотя это определенно их образ действий”, – сказал Рук. “Если ваш сектор указан в 15-летнем плане Китая, вам в основном дают предупреждение”.
В самом последнем пятилетнем плане основное внимание уделяется ИИ и умным роботам и их роли в экономическом росте.
Однако, поскольку Россия (с ограниченным успехом на данный момент) и другие страны вкладывают больше ресурсов в исследования и разработки гуманоидных роботов, “шпионаж имеет смысл с точки зрения опасностей, которым подвергаются сами роботы”, – считает Рук.
Аналогичным образом, если ваша компания поставляет критически важные компоненты фирме, разрабатывающей передовых роботов, считайте свою фирму подверженной риску стать мишенью в более крупной цепочке поставок, добавил он.
Существуют также потенциальные риски безопасности для потребителей, поскольку домашние роботы-помощники, такие как Neo, выходят на рынок, и в связи с этим Рук говорит, что, вероятно, именно потребители будут нести ответственность за обновление программного обеспечения роботов, аналогично тому, что происходит после покупки ноутбука. “Я должен обновлять свой Mac, иначе я буду нести ответственность за проблемы, если меня взломают, потому что я не обновил его”, – пояснил он. “То же самое может произойти и с некоторыми из этих роботов”.
Кроме того, он ожидает появления нового поколения компаний, специально предназначенных для обеспечения безопасности гуманоидных роботов – так что внесите это в свой список RSAC на 2030 год и далее. Эти машины, по сути, являются устройствами IoT, сказал Рук.
Но у них также есть встроенные системы искусственного интеллекта. И в отличие от других больших, тяжелых машин IoT – например, подключенного холодильника, который сообщает вам, когда у вас заканчивается молоко, – эти роботы ходят на двух ногах и оснащены “глазами” и “ушами”, которые, предположительно, могут быть использованы для всевозможных злонамеренных целей.
Рук говорит, что на данный момент довольно спекулятивно, как будут выглядеть стартапы по обеспечению безопасности гуманоидных роботов, но у него есть одна догадка: “IoT на стероидах”. ®
Автор – Jessica Lyons
