Почти каждая компания, от технологических гигантов вроде Amazon до небольших стартапов, имеет собственный опыт столкновения с фальшивыми IT-специалистами, претендующими на вакансии, а иногда даже нанимаемыми на работу.
Тем не менее, использование deepfake-видео для подачи заявки на должность исследователя в области безопасности в компании, занимающейся моделированием угроз для систем ИИ, кажется невероятно дерзким.
«Это одна из самых частых тем для обсуждения в группах CISO, в которых я состою», — рассказал соучредитель и генеральный директор Expel Джейсон Ребольц изданию The Register, говоря о мошеннической схеме с северокорейскими соискателями. «Я не думал, что это коснется меня, но вот мы здесь».
Прежде чем основать собственную компанию по безопасности ИИ, Ребольц работал специалистом по реагированию на инциденты и главным специалистом по информационной безопасности (CISO). Он годами исследовал deepfake и даже использовал их в своих презентациях, так что он не легкая мишень для такого рода мошенничества.
В январе Ребольц разместил несколько вакансий в своей фирме на LinkedIn. Через пару часов он получил прямое сообщение от незнакомого человека, в котором говорилось, что он знает кого-то, кто мог бы стать хорошим кандидатом на должность исследователя в области безопасности.
Фотография в профиле предполагаемого соискателя была не настоящей. Ребольц говорит, что она напоминала аниме-персонажа, и называет это «первым тревожным звонком» во всем этом опыте. Но он все же решил дать кандидату шанс.
«В сообществе специалистов по безопасности люди очень озабочены конфиденциальностью, поэтому неудивительно, если кто-то использует псевдоним или не имеет реальной фотографии», — сказал он. «Это был первый случай, когда я пытался оправдать то, что видел».
Больше тревожных звонков
Ребольц спросил своего знакомого в LinkedIn о соискателе, и тот прислал ему ссылку на резюме, размещенное на Vercel — облачной платформе для создания приложений, интегрирующейся с инструментами ИИ. Это тоже показалось немного странным.
«Я общался со своим соучредителем в то время, и он сказал: “Это как-то странно. Вероятно, он использовал Claude для генерации этого резюме”», — сказал Ребольц, добавив, что если попросить Claude Code создать резюме или портфолио, они обычно размещаются на Vercel.
Ребольц оправдал это тем, что парень — разработчик, и ему логично использовать инструмент для написания кода для создания портфолио, к тому же «резюме выглядело хорошо. Все было очень профессионально».
Знакомый в LinkedIn сказал, что ранее работал с соискателем в своей прошлой компании, и сообщил Ребольцу, что потенциальный исследователь безопасности работал за границей. Ребольц сказал, что это не проблема. Expel — молодая компания, и Ребольц хотел провести собеседования как можно с большим количеством людей, чтобы понять, кто лучше всего подходит для работы.
«На тот момент я не подозревал, что это мошенничество», — сказал он. «Было немного странно из-за того, что человек находился за границей, хотя его последнее место работы было в Сан-Франциско».
Тем не менее, Ребольц решил, что сможет задать вопросы об этом на собеседовании. Он дал контакту в LinkedIn свой адрес электронной почты, попросил общего «друга» наладить связь, «и через пять минут после того, как письмо попало в мой почтовый ящик, я получил сообщение в LinkedIn: “Проверьте папку “Спам”, он вам ответил, обязательно ответьте ему”».
Ребольц начал подозревать, что его обманывают. «Я никогда раньше не сталкивался с таким уровнем срочности при представлении», — сказал он. Любой специалист по безопасности — или любой, кто проходил обучение по защите от фишинга — знает, что злоумышленники обычно пытаются создать ощущение срочности, чтобы заставить свою жертву предпринять определенные действия.
Когда мы провели собеседование, все сразу пошло наперекосяк.
«Но я подумал: ладно, давайте просто поговорим. В этом нет ничего плохого. И вот мы назначили собеседование», — сказал Ребольц. «Я еще не дошел до точки, когда тревожные звонки пересекли ту черту, после которой я бы подумал, что это определенно мошенничество. Мы были в “желтой зоне”. Все становилось немного подозрительным. Но когда мы провели собеседование, все сразу пошло наперекосяк».
Мошенник присоединился к звонку с выключенной камерой. Затем ему потребовалось около 30 секунд, чтобы включить ее. «За эти 30 секунд я подумал, что это будет deepfake, все те предыдущие тревожные звонки начали всплывать, это определенно не будет настоящим», — сказал Ребольц.
Когда камера включилась, соискатель сидел на фоне виртуального фона — вы можете увидеть фрагмент здесь — его лицо выглядело немного размытым и пластиковым, в его очках отражался зеленый экран, а в какой-то момент на его лице появились ямочки.
«В тот момент я цеплялся за мягкость его лица, и когда он двигался, было видно, как они появляются и исчезают», — сказал Ребольц. «В этот момент я понял, что определенно разговариваю с deepfake. Но опять же, я пытался это оправдать».
Во время нашего интервью Ребольц неоднократно описывал «внутреннюю борьбу», которую он испытывал в процессе. «А что, если я ошибаюсь? Даже если я на 95% уверен, что прав, что, если я ошибаюсь и влияю на возможность другого человека получить работу? Это был буквально диалог, который велся у меня в голове, хотя я все время знал, что это deepfake. Это было такое странное сопоставление. Я обнаружил, что мой мозг ищет оправдания: возможно, есть объяснение тому, что я вижу. Это был очень сюрреалистичный опыт».
А что, если я ошибаюсь? Даже если я на 95% уверен, что прав, что, если я ошибаюсь и влияю на возможность другого человека получить работу?
Ребольц говорит, что заметил, что соискатель имел тенденцию повторять вопросы интервью перед ответом, и многие его ответы были почти дословными цитатами того, что Ребольц говорил или писал в интернете. «Это был почти опыт вне тела, когда я чувствовал, что разговариваю сам с собой».
Ребольц никогда не прерывал интервью и не просил кандидата доказать свою человечность. «Это была внутренняя борьба, которую я переживал: должен ли я его разоблачить? Но я постоянно возвращался к мысли: а что, если я ошибаюсь? Это была самая странная часть всего опыта, потому что все во мне, все, что я знаю о deepfake, кричало мне: это deepfake. Но было что-то, что меня останавливало — 1% вероятности, что я ошибаюсь, это действительно хороший кандидат, и он будет плохо обо мне думать, если я его разоблачу».
После интервью Ребольц сказал, что передал видеофрагменты своему другу в Moveris для анализа с использованием технологии компании по обнаружению deepfake. Это подтвердило подозрения Ребольца. И один из уроков заключается в том, что это может случиться с кем угодно, в компании любого размера.
«Малые компании тоже становятся жертвами», — сказал Ребольц. «Вам не нужно быть огромной технологической компанией, чтобы стать жертвой».
Крупные технологические компании, такие как Google и Amazon, также становятся мишенью для северокорейских IT-специалистов. Фактически, большинство компаний из списка Fortune 500 попались на эту уловку.
В декабре Amazon заявила, что с апреля 2024 года заблокировала более 1800 предполагаемых мошенников из Корейской Народно-Демократической Республики (КНДР) от присоединения к своей рабочей силе.
«И мы обнаружили на 27% больше заявок, связанных с КНДР, по сравнению с предыдущим кварталом этого года», — сказал главный специалист по безопасности Amazon Стив Шмидт сообщил.
Ребольц сказал, что эта проблема возникает по крайней мере раз в месяц в чатах CISO, к которым он принадлежит, и все пытаются найти лучший способ решить эту проблему.
Высокотехнологичные и низкотехнологичные решения
«Это должно быть сочетание низкотехнологичных и высокотехнологичных решений, где низкотехнологичное — это просто открыто заявить об этом», — сказал Ребольц. «Самый главный урок для меня: доверяй своей интуиции. В дальнейшем мое правило будет таким: забудьте о социальной неловкости. Важнее сразу же поставить под сомнение и провести этот неловкий разговор, чем тратить свое время».
Для руководителей и их компаний это может стоить гораздо больше, чем просто время. Этот тип мошенничества с IT-специалистами обошелся американскому бизнесу в десятки миллионов долларов.
«Если этого человека нанимают, возникает потенциальный риск для компании, будь то инцидент безопасности, когда этот человек крадет информацию, или вы платите преступнику», — сказал Ребольц.
В некоторых случаях мошенники используют свой внутренний доступ для кражи проприетарного исходного кода и других конфиденциальных данных, а затем вымогают у работодателей угрозами утечки корпоративных данных, если не будет уплачен выкуп.
Помимо доверия к своей интуиции, Ребольц предлагает ввести обязательное требование держать камеру включенной во время собеседований, и если соискатель использует виртуальный фон, попросить его отключить. Если он откажется, завершить собеседование.
«Если вы все еще подозреваете по какой-то причине, попросите их взять что-нибудь из фона и принести к столу», — сказал Ребольц. «Старый трюк с просьбой помахать рукой перед лицом — он полностью устарел». Современное программное обеспечение для deepfake может обойти этот трюк, добавил он.
После найма кандидата на работу, потребуйте, чтобы он работал на месте в течение первой недели, даже если это удаленная позиция. «Все дело в том, чтобы создать небольшое препятствие для этого человека, который пытается пройти процесс собеседования», — сказал Ребольц, отметив, что один CISO рассказал ему, что человек, появившийся в первый день — единственный день, когда он должен был работать на месте — не был тем же человеком, с которым общалась команда руководителей.
«Мошенники наняли кого-то, чтобы он пришел в офис в первый день, прежде чем они смогли перейти на удаленную работу», — сказал он.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
