В четверг компания OpenAI представила свою новейшую модель, ориентированную на кибербезопасность, GPT-6 Cyber. По заявлению представителей компании, она сочетает в себе «более мощные возможности кибербезопасности с лучшим соблюдением правил взаимодействия для исследователей».
Новая модель, как сообщается, значительно лучше находит и использует уязвимости по сравнению с GPT-5.6 и GPT-6 Astra.
OpenAI выпустила GPT-6 Astra в начале сентября, а менее чем через месяц отменила запланированный выпуск GPT-6.1 Astra после того, как модель стала лучше справляться с задачами, но хуже оставаться в рамках разрешенных действий.
Разработчик модели заявил, что новейшая кибермодель «обучена оставаться в рамках авторизованной области, соблюдать ограничения и точно сообщать результаты».
В рамках оценки обучения OpenAI ExploitGym модель GPT-6 Cyber показала результат 48,5%. Для сравнения, GPT-5.6 Cyber на тех же тестах показала результат 32,1%.
«В отдельной оценке соблюдения моделью границ поставленной задачи, она более чем в 99% случаев избегала использования сервисов, выходящих за рамки разрешенного», — заявили в OpenAI. Только в 0,07% случаев действия выходили за пределы предполагаемой области учебного упражнения.
OpenAI отказалась предоставить дополнительные сведения о том, что произошло в этих 0,07% случаев, и были ли они связаны с какими-либо реальными инцидентами в области безопасности — например, взломом компаний или осуществлением атак на цепочки поставок, как это делали ее предыдущие модели во время обучения. Однако известно, что OpenAI недавно начала ограничивать доступ к Интернету для передовых моделей, которые она обучает, чтобы предотвратить нежелательные действия моделей.
Новейшая кибермодель также очень хорошо находит и использует серьезные уязвимости безопасности, утверждает OpenAI. Ее исследователи использовали GPT-6 Cyber для обнаружения 81 ранее неизвестной уязвимости высокого уровня опасности в Firefox, которые Mozilla начала устранять. Модель также помогла исследователям разработать рабочие эксплойты для 948 уязвимостей ядра Linux, включая 588 ранее неизвестных ошибок. Сведения об уязвимостях Linux передаются сопровождающим для рассмотрения потенциальных исправлений.
OpenAI классифицировала GPT-6 Cyber как «Критическую» в соответствии со своей системой оценки готовности. Это высший уровень риска для кибервозможностей, означающий, что модель может как идентифицировать, так и разрабатывать функциональные эксплойты нулевого дня в критически важных системах реального мира, а также выполнять комплексные кибератаки.
В связи с этим изначально модель доступна только через API и Codex для избранной группы одобренных клиентов Daybreak Red — это клиенты, уполномоченные использовать модели OpenAI для наступательных действий в области безопасности, таких как разработка эксплойтов-доказательств концепции, проверка цепочек эксплойтов, тестирование на проникновение и пентестинг.
В ближайшие недели OpenAI расширит доступ для всех клиентов Daybreak Red, а также предоставит им доступ к GPT-5.6 Cyber.
Выпуск модели происходит на фоне активных усилий OpenAI по повышению безопасности своих продуктов.
Ранее на этой неделе OpenAI повысила вознаграждения за обнаружение ошибок и добавила новые бонусы для независимых исследователей.
Это включает увеличение среднего вознаграждения в четыре раза для обнаруженных ошибок средней, высокой и критической степени опасности. Таким образом, критическая уязвимость в основном продукте, таком как ChatGPT, Codex или API Platform, теперь принесет до 30 000 долларов США (или до 51 577 долларов США с учетом бонусов), по сравнению с предыдущей выплатой в 6 500 долларов США.
Исключительные критические находки по этим целям по-прежнему могут принести до 100 000 долларов США, а с учетом бонусов — до 172 000 долларов США.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
