OpenAI разработала автономный ИИ-конвейер, способный выявлять уязвимости в программном обеспечении, создавать рабочие эксплойты для проверки их воздействия и генерировать патчи для проверки человеком. В ходе октябрьского эксперимента, нацеленного на ядро Linux, конвейер создал эксплойты для 948 различных уязвимостей локального повышения привилегий (LPE) при общей стоимости API в 1,2 миллиона долларов, сообщила компания в исследовательском отчете от 4 ноября «A thousand fewer paths to root».
Система автоматизирует обнаружение уязвимостей, динамическую проверку, разработку эксплойтов и генерацию патчей. Исследователи-люди по-прежнему проверяют анализ первопричин, доказательства концепции эксплойтов и предлагаемые исправления, прежде чем результаты будут переданы мейнтейнерам, сообщили в OpenAI.
Исследование опирается на инициативу OpenAI Patch the Planet. Анонсируя проект в июне в рамках своих усилий в области кибербезопасности Daybreak, компания заявила, что GPT-5.5 Cyber выявила уязвимости ядра Linux и разработала 24 LPE-эксплойта. Последний эксперимент расширяет эту работу до конвейера, охватывающего обнаружение, эксплуатацию и генерацию патчей, добавили в отчете.
ИИ меняет экономику исследования уязвимостей
Октябрьская кампания обошлась в 1 213 430 долларов в API-кредитах, в среднем 1 279 долларов за каждый созданный уникальный LPE-эксплойт, сообщили в OpenAI.
OpenAI сравнила свои исследовательские расходы с историческими вознаграждениями за уязвимости ядра Linux, предлагаемыми на хакерских соревнованиях Pwn2Own и TyphoonPWN, которые выплачивали от 20 000 до 70 000 долларов за LPE-эксплойты. Основываясь на этих цифрах, OpenAI оценила стоимость 948 созданных эксплойтов в сумму от 18,9 до 66,3 миллиона долларов, что в 16–55 раз превышает стоимость конвейера. Сравнение не отражает фактические выплаты вознаграждений и не устанавливает, что каждая находка соответствовала бы этим наградам.
Последняя кампания выявила в пять раз больше уникальных LPE-уязвимостей, чем более ранний эксперимент с использованием GPT-5.6 Sol, несмотря на три месяца дополнительного усиления защиты ядра Linux между сканированиями, сообщили в OpenAI. Там также сообщили, что их агенты использовали как минимум 10 новых методов эксплуатации Linux, основываясь на анализе выборки из 166 эксплойтов.
Конвейер генерировал кандидатные патчи для проверенных уязвимостей и использовал итеративное тестирование и анализ вариантов для их улучшения, сообщили в OpenAI, добавив, что первоначальные патчи иногда вносили ненужные изменения кода или компромиссы по производительности, или не устраняли связанные варианты уязвимостей.
Человек по-прежнему необходим в цикле
Пока кампания продолжалась, и до того, как OpenAI смогла сообщить о своих результатах мейнтейнерам ядра Linux, 61 из обнаруженных ею уязвимостей уже была исправлена в апстриме, 43 имели промежуточные патчи, а еще 299 активно обсуждались публично.
OpenAI сообщила, что передала мейнтейнерам сотни отчетов об уязвимостях и патчей. В отчете не приводится полная разбивка по устранению всех 948 находок.
Необходимость проверки эксплойтов, созданных ИИ, является еще одним тормозом для отчетности. В ходе раннего эксперимента OpenAI обнаружила, что 20 из 200 якобы успешных эксплойтов получили привилегии root, эксплуатируя другую уязвимость нулевого дня, а не ту, которая была назначена для анализа. Впоследствии компания ввела дополнительные проверки, чтобы гарантировать, что ее ИИ выполняет назначенную работу.
Предприятиям, оценивающим автономные инструменты безопасности, следует требовать воспроизводимых эксплойтов, точной идентификации первопричин и независимой проверки, сказал Яш Кадакия, основатель и технический директор Security Brigade. «Достичь результата и правильно объяснить, как вы его достигли, — это две разные вещи», — сказал он.
Патчинг на предприятиях остается проблемой
Хотя OpenAI сосредоточилась на количестве найденных эксплойтов, это не самая большая угроза, сказала Сакши Гровер, директор по исследованиям в IDC. «Риск заключается не столько в 948, сколько в продолжительности окна между обнаружением и попаданием исправлений в продакшн», — сказала она.
Патч в апстриме не обязательно означает, что исправление попало в ядро дистрибутива Linux, работающее в корпоративной среде, сказала Гровер. Она рекомендовала уделять первоочередное внимание мультиарендным хостам, CI/CD-раннерам, общим бастионам, контейнерным платформам и паркам разработчиков, а также запрашивать сроки бэкпортирования у дистрибьюторов Linux.
Томас Ди Джакомо, технический директор и директор по продуктам SUSE, сообщил, что компания использует аналогичные инструменты ИИ для обнаружения и устранения уязвимостей, одновременно работая с апстрим-сообществами над раскрытием и патчингом.
«Ускорение анализа кода и поиска ошибок с помощью ИИ представляет собой фундаментальный сдвиг в ландшафте угроз», — сказал Ди Джакомо.
Он сказал, что подход SUSE к безопасности корпоративного Linux сочетает несколько уровней защиты с усиленными средами выполнения для приложений клиентов, чтобы снизить риски повышения привилегий и выхода из контейнера.
OpenAI добавила, что планирует расширить исследование на другие критически важные программные проекты через Patch the Planet, работая с мейнтейнерами и партнерами по безопасности над обнаружением уязвимостей, проверкой и автоматическим патчингом.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain
