OpenAI заявила, что её будущая модель Astra демонстрирует возможности в области кибербезопасности, которые могут достичь её высшей категории риска, где система способна автономно находить и эксплуатировать уязвимости или проводить полномасштабные кибератаки на защищённые цели.
Компания раскрыла эту оценку после недавнего внутреннего тестирования и экспертных проверок.
«Наши последние внутренние оценки Astra, одной из наших будущих моделей, проведённые за последние несколько дней, указывают на значительные успехи в agentic-кодинге и кибербезопасности», — говорится в заявлении OpenAI. «Эти результаты, наряду с экспертными оценками, привели нас к выводу прошлой ночью, что мы не можем исключить критические кибервозможности в рамках нашей Preparedness Framework».
Что изменилось
Чтобы объяснить этот сдвиг, OpenAI сослалась на свою внутреннюю Preparedness Framework, которая отслеживает, насколько далеко модели ИИ продвинулись в чувствительных областях, таких как кибербезопасность.
На верхнем уровне этой системы находятся системы, которые больше не просто помогают людям, а могут действовать самостоятельно, заявила компания.
«Модель достигает критического порога кибербезопасности, если она может выявлять и разрабатывать функциональные zero-day-эксплойты всех уровней серьёзности во многих защищённых реальных критических системах без вмешательства человека, или разрабатывать и выполнять полномасштабные новые стратегии кибератак на защищённые цели, имея лишь общую желаемую цель», — добавляется в заявлении.
Компания заявила, что Astra ещё не была окончательно отнесена к этому уровню, но её ранние результаты «достаточно сильны», чтобы нельзя было исключить такую классификацию. Её более ранние модели, включая GPT 5.6 Sol, «были оценены на предмет передовых кибервозможностей и отнесены к порогу High (а не Critical)».
«Это существенная точка перегиба», — сказала Апекша Каушик, старший главный аналитик Gartner. «Система ИИ может автономно обнаруживать уязвимости, разрабатывать эксплойты и выполнять полномасштабные атаки при минимальном руководстве человека».
Почему это важно для предприятий
Для команд безопасности это изменение не просто техническое — оно влияет на то, как могут разворачиваться атаки, считают аналитики.
Каушик отметила, что темпы прогресса указывают на то, что «практическая, реальная эксплуатация становится всё более осуществимой», а значит, злоумышленники могут автоматизировать большие части процесса атаки. Это сокращает время, которое есть у защитников для реагирования.
«Вывод очевиден: корпоративная безопасность должна эволюционировать от реактивной к упреждающей», — сказала она, добавив, что организациям следует переходить к непрерывной оценке экспозиции на основе ИИ и предиктивному анализу.
Санчит Вир Гогия, главный аналитик Greyhound Research, заявил, что компаниям не следует ждать формального ярлыка, прежде чем действовать.
«OpenAI заявила, что не может исключить критическую кибервозможность у Astra и обрабатывает модель соответствующим образом. Это скорее предупредительный триггер, чем окончательный вывод», — сказал он.
Он добавил, что фокус должен сместиться за пределы скорости исправления. «Показатель, который имеет значение, — это латентность защитного реагирования. Плоская очередь уязвимостей больше не является уровнем безопасности».
Что делает OpenAI сейчас
Основываясь на этом развитии, OpenAI заявила, что ужесточает контроль над разработкой Astra.
«Мы внедряем более строгие меры безопасности для моделей с более высокими возможностями», — заявила компания, включая «изолированные тестовые среды, ограниченный доступ к сети и инструментам, усиленную защиту весов моделей и шифрование, дополнительные возможности мониторинга и обнаружения, а также выполнение в песочнице», — добавила OpenAI в заявлении.
Она также «приостанавливает внутренние действия с участием Astra, которые ещё не соответствуют этим усиленным требованиям контроля безопасности».
Компания заявила, что расширила мониторинг использования модели. «Мы внедрили универсальный мониторинг рискованных действий и рассогласования», — говорится в сообщении, с добавлением, что системы могут «запускать ответные меры безопасности для проверки и прерывания высокорискованной активности».
Достаточно ли мер защиты?
Аналитики заявили, что эти шаги необходимы, но могут не полностью решить проблемы по мере улучшения возможностей.
«Текущие меры защиты, такие как ограниченные среды, непрерывный мониторинг и внешнее red-teaming, необходимы, но разрыв между защитой и возникающими угрозами увеличивается», — сказала Каушик. Она указала на такие риски, как prompt injection и слабые контроли доступа в системах ИИ.
Гогия заявил, что меры защиты необходимо рассматривать в контексте более широкой системы.
«Способная модель не работает внутри документа с рамками. Она работает внутри системы, а системы утекают полномочия через свои исключения», — сказал он. «Ограниченный доступ покупает защитникам время. Он не отменяет возможность».
OpenAI заявила, что будет работать с правительствами и внешними группами безопасности для дальнейшего тестирования Astra.
«Мы будем работать с соответствующими государственными учреждениями и избранными организациями по безопасности ИИ, чтобы протестировать возможности этой модели», — заявила компания, добавив, что также поделится рекомендациями со сторонними партнёрами по тестированию. Компания заявила, что раскрывает результаты, чтобы быть прозрачной в отношении того, что она назвала «потенциальным сдвигом в возможностях».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
