Microsoft представляет новые инструменты ИИ, предназначенные для того, чтобы помочь клиентам непрерывно оптимизировать и автоматизировать процесс выявления и снижения подверженности рискам безопасности.
Новые инструменты появились менее чем через неделю после того, как OpenAI потеряла контроль над двумя своими моделями безопасности, когда они проникли на серверы стартапа Hugging Face. Взлом, как добавили в Hugging Face, включал «рой десятков тысяч автоматизированных действий», которые похитили внутренние учетные данные Hugging Face. Моделям OpenAI удалось совершить этот подвиг, используя уязвимость нулевого дня в конвейере обработки данных Hugging Face для запуска вредоносного кода, который расширил доступ моделей к высокоценным облачным и серверным кластерам компании.
Объявления Microsoft в понедельник не содержали упоминания об этом инциденте, который OpenAI назвала «беспрецедентным». Компания также не сообщила, что помешает новым инструментам аналогичным образом выйти из-под контроля.
Использовать или нет?
Microsoft AI-Cyber-1-Flash — это первая модель ИИ компании, специально обученная выявлять и устранять уязвимости безопасности. Пока что она предназначена для анализа уязвимостей программного обеспечения. Новая модель построена на платформе компании MAI-Thinking-1. Microsoft описывает MAI-Cyber-1 Flash как «компактную, насыщенную кодом модель безопасности», которая «создана с нуля, собственными силами, на основе данных высочайшего качества».
Она обучена на уникальном опыте, который Microsoft получила за десятилетия исправления уязвимостей и реагирования на инциденты безопасности, связанные с широким спектром своих продуктов. Компания утверждает, что ежедневно обрабатывает более 1 триллиона сигналов безопасности и получает информацию от 1,6 миллиона клиентов.
«Поскольку мы можем связывать действия с результатами: что было эксплуатируемо, что было сдержано, что было заблокировано, а что действительно сработало; у нас есть нечто большее, чем просто данные», — заявили в Microsoft.
MAI-Cyber-1-Flash интегрирована в MDASH — «многомодельную агентную сканирующую обвязку», представленную в мае. Эта обвязка объединяет 100 обученных безопасности ИИ-агентов для обнаружения эксплуатируемых ошибок в приложениях.
,
Microsoft сообщила, что MDASH с MAI-Cyber-1-Flash получила 96% баллов на CyberGYM, стандартном бенчмарк-тесте. Этот показатель на 12 пунктов выше, чем у Mythos от Anthropic, а также превосходит Google Gemini и OpenAI GPT. Использование новой MDASH стоит вдвое дешевле, чем предыдущей версии MDASH.
Второй инструмент, анонсированный Microsoft в понедельник, называется Project Perception. Это также коллекция специализированных ИИ-агентов, которые выполняют функции красной, синей и зеленой команд: соответственно, поиск уязвимостей, их исследование для определения риска и принятие корректирующих мер. Microsoft заявила, что платформа выбирает модели для использования на основе поставленной задачи. Факторы, влияющие на решение, включают эффективность модели и конечную стоимость для клиента. Microsoft отметила, что решения формируются на основе «текущих исследований, бенчмаркинга и оценки как передовых, так и специализированных моделей».
Microsoft заявила, что Project Perception разработан для выполнения 90% задач с меньшими затратами, чем аналогичные платформы конкурентов. Это означает, что клиенты могут обращаться к более дорогим альтернативам только для оставшихся 10% задач.
Microsoft заявила, что новые инструменты реагируют на кардинальные изменения в том, как организации защищают свои сети от катастрофических взломов.
«Поскольку ИИ ускоряет скорость и масштаб кибератак, защитников просят обеспечивать безопасность все более сложных цифровых сред с помощью подходов, созданных для другой эпохи», — заявила компания. «Группы безопасности часто вынуждены собирать воедино сигналы, контекст и информацию о рисках из огромных объемов данных, что затрудняет отслеживание новых угроз.»
Поскольку инцидент с OpenAI на прошлой неделе вызывает тревожные сцены, прямо из самых антиутопичных научно-фантастических романов, инструменты, которые сейчас находятся в режиме предварительного просмотра, заслуживают здоровой доли осторожности, о которой Microsoft не упомянула. Их следует тщательно изучать и оценивать перед использованием в производстве. С другой стороны, существуют явные риски, связанные с отказом от таких инструментов. Баланс между рисками использования ИИ-агентов и угрозой их избегания — это работа в процессе, на данный момент без четких ответов.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dan Goodin
