За месяц новая категория ИИ-моделей прошла путь от несуществующей до вездесущей. Компания TypeSafe AI выпустила Jev 15 сентября и назвала ее моделью System One, отдавая дань уважения «быстрому, интуитивному мышлению» Канемана. OpenAI анонсировала свой Decisions API на DevDay и открыла публичное бета-тестирование 6 октября. Cribl опубликовала cribl-decision — открытый адаптер LoRA, который можно запускать локально. Появляются и другие, например Laya, в инструментах с открытым исходным кодом. Эти модели полностью обходятся без генерации текста. Вы передаете им некоторое состояние и набор типизированных вопросов. Они возвращают выбор, оценку или ответ «да/нет» с прикрепленной вероятностью. Для операций безопасности это, пожалуй, лучшая новость года. Я также считаю, что большая часть обсуждений сосредоточена не на том уровне. Три свойства делают модели принятия решений естественным выбором для сортировки оповещений. Вы получаете число, на основе которого можно автоматизировать действия. Типизированный ответ с откалиброванной вероятностью позволяет установить порог. Спросите модель, является ли оповещение безвредным, и вы получите вероятность. Автоматически закройте его при значении выше 0,97. Ниже 0,6 — считайте это вероятным инцидентом и эскалируйте. Все, что между этими значениями, передается аналитику для более детального изучения. TypeSafe даже предлагает более строгие пороги для необратимых действий, что удобно соотносится с «отключить учетную запись» по сравнению с «добавить комментарий к заявке». Они достаточно дешевы для каждого оповещения. Стоимость Jev составляет 42 доллара за миллиард входных токенов, а ответы занимают от 70 до 500 миллисекунд. Предположим, предприятие получает 450 000 оповещений в год, и на каждое оповещение приходится несколько тысяч токенов. Стоимость модели составит около ста долларов в год. Экономический аргумент в пользу выборочной проверки и рассмотрения только оповещений высокой степени серьезности исчез! Каждый вердикт становится записью. Пространство ответов фиксировано заранее, а выходные данные несут собственную вероятность. Вы можете регистрировать каждое решение, воспроизводить его и сравнивать с тем, что произошло на самом деле. Это гораздо проще для аудита, чем абзац сгенерированных рассуждений. Стоит помнить об одном предостережении. Когда поставщики говорят, что эти модели «не могут галлюцинировать», они имеют в виду, что вывод всегда соответствует определенной вами схеме. Хорошо сформированный ответ все еще может быть неверным. Старое правило по-прежнему действует. Мусор на входе — мусор на выходе. Калибровка — это обещание относительно распределения. Когда хорошо откалиброванная модель говорит 90%, это означает, что для входных данных, похожих на эти, она права примерно в 90% случаев. Поэтому важный вопрос заключается в том, на что похожи «эти». Если входными данными являются заголовок оповещения и поле серьезности, модель откалибрована для оповещений с таким заголовком и такой серьезностью. О хосте она ничего не знает. Вот почему это важно на практике. Наш Отчет AI SOC 2026 охватывает 25 миллионов оповещений, обработанных нашими клиентами в 2025 году. В этих данных 82 000 оповещений прошли сканирование памяти конечной точки в реальном времени. Примерно на 2 600 из этих компьютеров была активная инфекция. И 51% зараженных компьютеров уже были отмечены как устраненные EDR. Подумайте, что видит модель принятия решений для одного из этих оповещений. Обнаружено вредоносное ПО, угроза помещена в карантин, низкая степень серьезности. Идеально откалиброванная модель должна закрыть ее с высокой уверенностью, потому что большинство оповещений, выглядящих так, действительно безвредны. Модель выполнила свою работу. Входные данные были неверны. Серьезность представляет ту же проблему в большем масштабе. Почти 1% реальных инцидентов в наших данных отслеживался до оповещений с самым низким уровнем серьезности. При среднем значении 450 000 оповещений в год это примерно 54 реальные угрозы, около одной в неделю. В карточке модели Cribl это сказано прямо. Модель может быть излишне самоуверенной и чувствительной к формулировке подсказки и кандидатов. Это честно, и это относится ко всем моделям в этой категории. Представьте себе место преступления. Вы можете описать его чат-боту в общих чертах и получить правдоподобную теорию. Или вы можете привлечь лабораторию ДНК, отпечатки пальцев, криминалистические доказательства и показания свидетелей. Никто не будет спрашивать, какой подход находит нужного подозреваемого. Расследования в области безопасности работают так же. Филип Стойковски недавно назвал это Security Context Engineering, и я думаю, название подходит. Задача состоит в том, чтобы превратить оповещение в набор фактов, прежде чем кто-либо, человек или модель, примет решение. Третий ряд заслуживает особого внимания. Наиболее распространенными семействами, обнаруженными нами в памяти в прошлом году, были такие инструменты, как Mimikatz, Meterpreter и Cobalt Strike. Они созданы для работы в памяти, именно там, где файл-ориентированный статус «карантин» не виден. Ни одно из этих доказательств не является экзотическим. Это то, что хороший специалист по реагированию на инциденты собирает вручную. Сложность заключается в автоматическом сборе всего этого для каждого оповещения менее чем за минуту. Криминалистические доказательства говорят вам, что произошло на машине. Они не говорят вам, ожидается ли это в данной конкретной компании. Оповещения об идентификации четко показывают разрыв. В наших данных за 2025 год 74% оповещений об идентификации были классифицированы как, вероятно, безвредные. Оповещения о невозможном путешествии подтверждались как реальные компрометации только примерно в 2% случаев, а использование VPN само по себе приводило примерно к 30% из них. Модель не может определить, что Дейв из финансового отдела всегда входит в систему из Португалии, или что оповещение CrowdStrike на серверах сборки срабатывает каждый раз, когда DevOps выпускает релиз. Эти знания обычно хранятся в голове вашего самого старшего аналитика и уходят вместе с ним, когда он уходит. Два фактора делают этот контекст более сложным, чем криминалистический. Вы не можете его купить, потому что он специфичен для вашей среды. И он устаревает, потому что активы, пользователи и инструменты меняются каждую неделю. Снимок, загруженный во время онбординга, устаревает в течение квартала. Поэтому организационный контекст должен быть циклом. Учитесь на прошлых случаях и на том, как аналитики их решали. Получайте контекст в реальном времени в середине расследования, когда памяти недостаточно. Затем сравнивайте каждый вердикт с его результатом и записывайте урок обратно. Последний шаг — это также способ проверить, означает ли 90% по-прежнему 90% в вашей среде, а не только на чьем-то эталонном тесте. Это тот уровень, на котором мы сосредоточили свои усилия, поэтому вот конкретный пример того, как выглядят инвестиции в него. Наша команда основателей пришла из области обратной разработки и реагирования на инциденты, и этот опыт сформировал одно правило. Сначала соберите доказательства, затем примите решение.Доказательства на уровне кода. Наша технология генетического анализа сравнивает каждую часть двоичного кода, выполняемого в памяти, с большой базой данных доверенного и вредоносного кода. Она обнаруживает известный вредоносный код, а также новый код, который повторно использует части известных угроз. Живая криминалистика памяти, запускаемая автоматически. Когда оповещению не хватает доказательств для вердикта, или есть признаки файловой атаки или внедрения кода, платформа запускает наш Endpoint Scanner на машине. Это один исполняемый файл, который не требует установки. Он собирает деревья процессов, исполняемые файлы, загруженные в память, дампы памяти при подозрении на внедрение, а также файлы, стоящие за запланированными задачами и автозагрузкой. Именно так мы обнаружили зараженные машины, помеченные как устраненные. Детонация и сетевая криминалистика. Подозрительные файлы запускаются в песочнице, а URL-адреса, домены и IP-адреса исследуются, поэтому вердикт основывается на наблюдаемом поведении. Организационная память. Org Brain — наш ответ на проблему «что здесь нормально». Он хранит два типа памяти. Один — процедурный, как ваша команда расследует и какие обнаружения закрывает сразу. Другой — декларативный, ваши активы, ваши пользователи, их нормальное поведение и даже структура вашей схемы SIEM. Он учится на истории ваших случаев, получает контекст в реальном времени в середине расследования и записывает выводы обратно после каждого расследования. Все это позволило нам расследовать более 25 миллионов оповещений в 2025 году при любой степени серьезности. Менее 2% были эскалированы до человека, точность вердиктов составила 98%, а медианное время сортировки составило менее минуты. Что касается затрат, то большая часть этого анализа представляет собой детерминистическую криминалистику, которая гораздо доступнее для запуска, чем большая модель для каждого оповещения. Именно поэтому мы устанавливаем цену за конечную точку и исследовали все, задолго до появления моделей принятия решений. Теперь модели принятия решений приносят ту же экономику на этап принятия решений для всех, и это хорошо для отрасли. Если вы создаете свой собственный конвейер, та же структура применяется независимо от того, какая модель находится в конце. Направляйте свои инженерные усилия на доказательства и организационные знания. Это те части, которые трудно получить, и те части, которые накапливаются. Передовые модели улучшаются каждые несколько месяцев, и все получают обновление в один и тот же день. Модели принятия решений будут следовать той же кривой. Какое бы преимущество ни давала вам модель в этом квартале, ваши конкуренты и ваши противники тоже его имеют. Контекст, который вы передаете этим моделям, — это то, что действительно принадлежит вам. Если вы автоматизируете сортировку в этом году, вот куда бы я потратил время. Модели принятия решений делают последний шаг быстрым, дешевым и проверяемым. Правильность этого последнего шага по-прежнему зависит от всего, что предшествовало ему.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – The Hacker News
