Как быстро все изменилось. Компании, занимающиеся кибербезопасностью, теперь спешат создавать продукты, которые могут отслеживать не только агентов, но и инструменты и надстройки, которые они используют. Хотя заголовков об эксплуатации агентов по-прежнему немного, риск того, что агенты выйдут из-под контроля во время производства, тем не менее реален. И поэтому рынок инструментов для предотвращения этого взорвался: Gartner оценивает, что компании потратят 2,83 миллиарда долларов в этом году на продукты для защиты ИИ, что на 83% больше, чем в 2025 году, и ожидает, что расходы достигнут почти 4,78 миллиарда долларов в следующем году.
HiddenLayer, которая производит инструменты для защиты моделей ИИ, агентов и рабочих процессов от атак злоумышленников, уязвимостей и вредоносных инъекций кода, смогла извлечь выгоду из этого сдвига. Ее соучредитель и генеральный директор Крис Сестито сообщил TechCrunch, что годовой регулярный доход стартапа вырос более чем в 10 раз за последний год. Он отказался назвать точную цифру, но сказал, что ARR теперь составляет «десятки миллионов» долларов, и более 90% этого роста было обусловлено новыми клиентами, подписавшимися за последний год.
Финансовые услуги и крупные технологические компании, разрабатывающие продукты ИИ, в настоящее время являются крупнейшими вертикалями компании, и у нее также есть контракты с Министерством обороны и разведывательным сообществом. Одним из ее клиентов, по-видимому, является «ведущий поставщик передовых моделей» с «более чем 700 миллионами еженедельных пользователей», что, как мне кажется, похоже на OpenAI или Anthropic.
Чтобы максимально использовать этот импульс, стартап привлек 100 миллионов долларов в рамках раунда финансирования серии B, который возглавил Delta-v Capital при участии Ten Eleven Ventures, Morgan Stanley, M12 от Microsoft, Booz Allen Hamilton и других.
Основанный в Остине стартап в целом по-прежнему продает то, что продавал в 2023 году, но Сестито сообщил TechCrunch, что самое большое изменение, которое ему пришлось внести, — это расширить существующие продукты — обнаружение, защиту во время выполнения, симуляцию атак и безопасность цепочки поставок — для устранения инъекций команд, манипулирования агентами и вредоносного использования инструментов.
«Вывод остается выводом. Так что, будь то традиционная модель машинного обучения, будь то Gen AI, будь то агентский рабочий процесс, большая часть нашей технологии по-прежнему применима. Так что на самом деле нам не пришлось менять направление, но нам пришлось расширить сферу охвата… от традиционного моделирования до Gen AI и агентских систем», — сказал он.
Сестито подчеркнул, что безопасность во время выполнения стала особенно приоритетной по мере того, как развертывание ИИ становится обычным явлением в бизнесе, и сравнил ее с традиционными решениями для обнаружения и реагирования на конечных точках (EDR), но специально для ИИ.
Новые продукты компании отражают этот сдвиг, и Сестито выделил новую возможность для злоумышленников в эксплуатации моделей с открытым исходным кодом. «Мы анализируем и сканируем около 50 различных фреймворков файлов ИИ, чтобы убедиться, что, особенно в случае моделей с открытым исходным кодом и открытым весом, инструмент, с которым вы работаете, — это тот, который вы считаете, и тот, который он выдает себя за. Мы ищем такие вещи, как модели, выдающие себя за одно, но являющиеся другим — скрытые модели внутри моделей», — сказал он.
Стартап заявляет, что новые 100 миллионов долларов помогут ему развиваться в этом направлении, хотя и с большим акцентом на продажи и дистрибуцию, продолжая при этом расширять свои инженерные и исследовательские возможности. Компания также планирует выйти на рынки Европы и региона EMEA.
HiddenLayer может обнаружить, что ей придется использовать этот «военный сундук» для большего, хотя. Крупные компании в области кибербезопасности, такие как Cisco, Palo Alto Networks и Check Point, часто предпочитают покупать, а не создавать подобные технологии, в то время как стартапы, такие как Noma и Zenity, привлекли более 100 миллионов долларов каждый для работы в смежных или пересекающихся областях этого пространства.
Сестито признал, что некоторые части продуктов безопасности ИИ, которые предлагает его компания, в конечном итоге могут быть включены в платформы, созданные такими компаниями, как Microsoft, OpenAI и AWS. Однако он ожидает, что инфраструктура ИИ будет развиваться в сторону функций управления, таких как обнаружение, идентификация и контроль политик, а не в сторону инструментов, которые строит его компания.
На данный момент, по его словам, задача HiddenLayer — «масштабироваться вертикально вместе с искусственным интеллектом», а в конечном итоге — горизонтально расширяться в те области кибербезопасности, которые все больше зависят от ИИ. Это амбициозная цель, но стартапу сначала придется доказать, что он может превратить свое преимущество в устойчивый бизнес, прежде чем остальная часть отрасли догонит его.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ram Iyer
