Эксперты бьют тревогу: почти каждый в сфере ИИ рискует попасться на уловку мошенников

безопасность шпионаж ии утечка данных контрразведка techcrunch.com

Технологические лидеры создают будущее, но уязвимы перед старыми методами шпионажа. «Медовые ловушки» используют человеческие слабости для получения доступа к секретам компаний. Узнайте, как ИИ упрощает эти схемы и как защититься.

«Никто не инструктирует основателей по контрразведке», — заявил TechCrunch Аарон Браун, бывший высокопоставленный сотрудник ЦРУ и нынешний основатель компании-разработчика программного обеспечения Lumbra.

Это связано с тем, что исторически «медовые ловушки» ассоциировались с политиками, военными и национальной разведкой — людьми, «защищенными допусками и обученным персоналом, ожидающим подхода» со стороны шпионов и других злоумышленников.

Но теперь многие из самых ценных секретов «находятся в компаниях, создающих чипы, модели и инфраструктуру», — говорит Браун, добавляя, что шпион «хочет то, к чему может прикоснуться генеральный директор. Дорожная карта, решения об экспорте, список клиентов, кому достанется технология. Генеральный директор — кратчайший путь ко всему этому».

Хуан обвиняется в том, что попался именно в такую «медовую ловушку», вступив в связь с Алисой Хуан. Она — бывший руководитель сингапурской неооблачной компании, которую обвиняют в шпионаже в пользу Китая и контрабанде ограниченных чипов Nvidia на миллиарды долларов в Китай.

После того как разразились обвинения против Хуана, интернет заполнили шутки о том, кто из технологических CEO станет следующим, но рискуют не только генеральные директора и основатели. WSJ сообщила, что OpenAI начала предупреждать своих сотрудников о посторонних, пытающихся сблизиться с ними в поисках секретов компании. Любой, кто имеет доступ к конфиденциальной информации — от членов правления до исполнительных ассистентов — может стать целью «медовой ловушки».

И обычно злоумышленники — не любовники. Дружба — это на самом деле старейшая схема «медовой ловушки», сказал Браун.

«Медовые ловушки» получают доступ к своим целям под видом инвесторов, клиентов, рекрутеров и консультантов. Их запросы выглядят законными на бумаге, и им не нужно, чтобы их цели влюблялись. «Им нужно, чтобы вы чувствовали себя комфортно, разговаривая», — сказал Браун. «Они длятся дольше, потому что никто не следит».

Интересен и парадокс. Так много технологических основателей стремятся автоматизировать и оцифровать большую часть человеческой жизни и при этом остаются уязвимыми перед старейшей уязвимостью — человеком, который пользуется человеческой потребностью быть понятым другими.

«Зачем пробиваться через брандмауэр, когда можно приблизиться к человеку, который может открывать двери, влиять на решения или выполнять запросы, которые никто не хочет ставить под сомнение?» — сказал TechCrunch Перри Карпентер, криминолог и главный специалист по обману в KnowBe4.

Как только жертвы осознают, что были скомпрометированы, угроза может обостриться: злоумышленники теперь имеют средство шантажа.

Еще один парадокс: ИИ сделал «медовые ловушки» намного проще и дешевле. Планирование схемы раньше требовало месяцев или лет исследований, создания образа, изучения цели и выполнения плана. В наши дни легко использовать ИИ для изучения цели, создания поддельных профилей в социальных сетях, поддельных биографий и даже поддельных голосовых звонков.

«ИИ может помочь поддерживать всю вымышленную предысторию», — сказал Карпентер. «Технология помогает создать сцену, но обман в конечном итоге разыгрывается через человеческие отношения».

«Индустрия ИИ стала индустрией национальной безопасности быстрее, чем ее культура успела адаптироваться», — сказал Браун.

«Часть попадания в «медовую ловушку» заключается в том, что вы этого не знаете», — добавил он. «Это не ощущается как манипуляция. Это кажется искренним, даже удачным».

Карпентер сказал, что первым шагом является поиск необычных закономерностей. Обратите внимание, например, на «случайные встречи, которые происходят немного слишком часто», — сказал он. Есть и очевидные признаки, такие как настойчивое любопытство к работе и коллегам, или просьба сохранить встречу в тайне, а также настойчивые просьбы о знакомствах или информации.

Более серьезные тревожные сигналы включают в себя, если запросы человека становятся все более масштабными, раздвигая границы того, что вы обычно считали бы неудобным. «Простая проверка интуиции», — сказал Браун. «Остался бы этот человек рядом, если бы вы потеряли работу завтра?»

Также помогает попытаться понять, когда эмоции могут влиять на решение. Карпентер предлагает провести четкую границу между личной и профессиональной жизнью. Внутри компаний также помогает «устранить исключительность руководства», сказал он, — идею о том, что правила не распространяются на людей, обладающих властью в компании.

Браун добавил, что культура компании играет еще одну роль: комфортно ли сотрудникам сообщать о проблемах, оспаривать необычные запросы и эскалировать возможные угрозы? «Одна из самых опасных культур безопасности — это та, где никто не чувствует себя комфортно, задавая вопросы генеральному директору», — сказал Карпентер.

«Основателям нужно рисковать, и им нужно исследовать бизнес-возможности», — сказал Браун. «Паранойя не помогает. Признание того, что вы являетесь целью, — помогает».

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: