Savi Security стремится защитить обычных людей от нового поколения невероятно убедительных мошенничеств, генерируемых ИИ, будь то текстовые сообщения, электронные письма или телефонные звонки.
Компания только что привлекла $7 миллионов в рамках посевного раунда финансирования и во вторник запускает свое приложение для iPhone и Android. Раунд возглавил Acrew Capital при участии Magnify Ventures, TTCER и Resolute Ventures.
Вдохновением для создания компании послужил ужасный инцидент, связанный с матерью основателей.
Около двух лет назад мама Патрика Кафлина позвонила ему в отчаянии, сообщив, что ей только что позвонил мужчина, утверждавший, что похитил сестру Кафлина. В то время он занимал должность старшего вице-президента по продуктам безопасности в Cisco. (Он оказался там после того, как Splunk приобрела его стартап в области облачной безопасности TruSTAR за заявленные $82 миллиона в мае 2021 года. В 2024 году Cisco купила Splunk.)
Ее мобильный телефон зазвонил, определив номер ее дочери, как вспоминал Кафлин. Во время этого звонка «ей показалось, что она слышит голос моей сестры, говорящей: „Мама, они меня держат“. Раздается душераздирающий крик, а затем моя сестра говорит: „Ты должна делать то, что они говорят“. А потом в трубку вступает мужчина и говорит: „Если вы не заплатите нам прямо сейчас $1200, мы убьем вашу дочь на парковке местного Walmart“», — продолжил он.
Мошенник точно подделал номер сестры Кафлина, ее голос и упомянул местоположение часто посещаемого ею Walmart.
К счастью, мама сохранила самообладание, позвонила дочери и выяснила, что с ней все в порядке. Похищение оказалось мошенничеством, сгенерированным ИИ.
Кафлин, как и его мама, был потрясен.
«Что я подумал, успокоив маму: что фундаментально изменилось в базовой экономике киберпреступности, что теперь мы можем использовать ту же изощренность, которую я видел, направленную на государственные учреждения, а затем на компании из списка Fortune 500, и теперь мы применяем эту изощренность к потребителям?»
Ответ, конечно, — дешевые и мощные LLM и другие генеративные инструменты ИИ.
До появления ИИ преследование таких афер в отношении потребителей не было финансово оправданным. Это потребовало бы глубокого исследования цели, технологий для подделки голоса и так далее. Такие атаки были в первую очередь нацелены только на тех, у кого есть большие деньги, например, на предприятия или правительства, как и технологии для защиты от них.
«Сейчас происходит нечто, затрагивающее потребителей, из-за ИИ в руках киберпреступников», — говорит Кафлин. Затраты на совершение таких мошенничеств стали ничтожными, а исследовательские материалы легкодоступны.
«Вы можете клонировать голос по трем секундам аудиозаписи из общедоступного поста в социальной сети. У всех нас есть такие следы того, что находится в эфире — где мы разговариваем или комментируем, комментируем футбольную игру ребенка, снимая ее на видео и выкладывая в Facebook».
ФТК сообщила в прошлом месяце, что люди, сообщавшие о преступлениях в Интернете, в совокупности потеряли $3,5 миллиарда из-за мошенничества с выдачей себя за других в 2025 году, что втрое больше, чем в 2020 году. Хотя большинство людей, сообщающих о таких мошенничествах, — это пожилые американцы, некоторые исследования предполагают, что поколение Z также очень уязвимо. Исследование 2025 года от Malwarebytes, производителя антивирусного и анти-вредоносного ПО, показало, что поколение Z чаще становилось мишенью текстовых мошенничеств, чем другие поколения, и попадалось на них примерно в 25% случаев.
Идея братьев Кафлин заключалась в разработке инструмента вмешательства в режиме реального времени.
Они протестировали свою идею и создаваемую ими модель обнаружения мошенничества с помощью ИИ, запустив бесплатный веб-сайт под названием Scam Wise. Он анонимный, регистрация не требуется. Просто загрузите любые подозрительные тексты, фотографии или электронные письма, и Scam Wise определит, являются ли они, вероятно, поддельными.
«Мы запустили его около четырех месяцев назад. У нас было 50 000 отправлений, и теперь каждую неделю их становится на 10 000 или более», — сказал Кафлин.
Scam Wise послужил источником данных из реальных ситуаций для обучения модели обнаружения мошенничества Savi. В настоящее время стартап в основном использует Gemini от Google, но построил свое программное обеспечение на шлюзе ИИ, который позволяет ему задействовать другие модели ИИ по мере необходимости, например, специализированные варианты для обнаружения голоса.
Во вторник Savi запустила платный продукт — приложение для iOS и Android для потребителей, которое может проверять текстовые сообщения, голосовую почту и входящие звонки на предмет мошенничества.
Такие функции доступны во многих различных продуктах (например, в Malwarebytes), но самая впечатляющая функция Savi — это мониторинг звонков в реальном времени.
Во время подозрительного телефонного разговора пользователь может выбрать добавление живого агента приложения в качестве слушателя. Savi отслеживает поведенческие признаки, которые могут определить, является ли ситуация мошенничеством во время разговора.
Тарифы Savi также несколько необычны. Компания взимает $8 в месяц, со скидкой до $63 в год, для покрытия всей семьи, и не устанавливает лимита на количество пользователей. Таким образом, один план может покрыть детей, супруга(у), родителей и того дядю, которому всегда нужна техническая поддержка. Или любого другого, кого основной владелец учетной записи захочет добавить и кому захочет предоставить административную поддержку.
ИИ изменил условия того, «насколько доступным стало быть мошенником», — сказал Кафлин. «Мы создаем мошенников, потому что снижаем барьер для обмана людей. Таким образом, у нас есть не только организованные преступники и синдикаты, стоящие за этим, но и обычные люди, которых как бы соблазняют играть в мошенничество».
Ответ Savi Security подобен новому поколению антивирусного программного обеспечения: тому, которое использует ИИ в реальном времени, точно так же, как и злоумышленники.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Julie Bort
