Мнение Anthropic описывает Project Glasswing как коалицию технологических гигантов, выделяющих 100 миллионов долларов в виде ресурсов ИИ для поиска и устранения давно скрытых уязвимостей в критически важном программном обеспечении с открытым исходным кодом, которые она обнаруживает с помощью своей новой программы Mythos AI. Или, как выразился The Reg, «модель ИИ, способная генерировать уязвимости нулевого дня».
О, боже! Именно то, что нам было нужно. Не просто мусор из отчетов об уязвимостях безопасности, созданный ИИ, а автоматизированный, целенаправленный мусор из отчетов об уязвимостях безопасности, созданный ИИ!
В то время как Anthropic утверждает, что ее Claude Opus 4.6 едва находит уязвимости нулевого дня, Mythos Preview может выдавать рабочие эксплойты в 72,4 процента случаев. Хорошо, что Anthropic пока ограничила его использование; если Mythos оправдает свою шумиху, он обрушит интернет за один день.
Project Glasswing щедро предлагает бесплатный доступ к Mythos Preview, который, по утверждению Anthropic, «превосходит всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения». Бесплатно с кредитами на использование Mythos Preview на сумму 100 миллионов долларов и прямыми пожертвованиями в размере 4 миллионов долларов организациям по обеспечению безопасности открытого исходного кода. Достаточно ли этого, чтобы обезопасить программное обеспечение с открытым исходным кодом, 97 процентов всего работающего ПО? Сомневаюсь.
Можем ли мы верить Anthropic? Компания заявляет, что обнаружила 27-летнюю ошибку в OpenBSD, 16-летнюю уязвимость в коде кодирования видео FFmpeg и новый набор связанных эксплойтов в ядре Linux, которые позволяют злоумышленнику перейти от обычного пользовательского доступа к полному контролю root.
Меня это не впечатляет. Я начинал программировать, находя ошибки сам, и никогда не был великим разработчиком. С другой стороны, как недавно сообщил нам Грег Кроа-Хартман, долгосрочный сопровождающий ядра Linux, отчеты об уязвимостях безопасности от ИИ внезапно перешли из категории мусора в полезные.
Хорошо, допустим, даже в ранней бета-версии Mythos настолько хорош в поиске ошибок. Что это будет означать? Что ж, дальше нам нужен кто-то, кто исправит эти ошибки. Кто возьмется за это?
Поэтому я спросил людей, которые намного умнее меня в вопросах безопасности программного обеспечения и ПО с открытым исходным кодом, и вот что они мне сказали.
Сначала я связался с Даниэлем Стенбергом, основателем и ведущим разработчиком cURL, где отчеты о мусоре от ИИ заставили его команду прекратить выплату вознаграждений за ошибки. Он сказал The Register: «Да, этот риск добавляет дополнительную нагрузку на бесчисленное множество сопровождающих открытого исходного кода, которые и так борются». В этом и загвоздка.
Стенберг согласился, что «отчетность ИИ за последние несколько месяцев стала намного лучше. Частота отчетов о старом, по-настоящему глупом мусоре от ИИ значительно снизилась». Однако многие из них по-прежнему не являются уязвимостями, а оказываются «просто ошибками», и отчеты, как правило, не сопровождаются исправлениями или решениями, поэтому, даже если нам нравится получать отчеты об ошибках, получение большого количества таких отчетов в качестве отчетов о безопасности создает значительную нагрузку.
Так что, даже если Mythos «близок к тому, чтобы быть таким же хорошим, как они заявляют в своем маркетинге, я полагаю, мы скоро увидим еще большее увеличение нагрузки на сопровождающих. Как я указывал снова и снова, сопровождающих или финансовой поддержки для проектов с открытым исходным кодом никогда не бывает достаточно».
Может ли сам ИИ помочь? Конечно. Дирк Хондель, старший директор по открытому исходному коду в Verizon, написал в LinkedIn, что, хотя инструменты кодирования на базе ИИ еще не готовы для сопровождения кода, он считает, что скоро будут готовы. «Это почти возможно уже сегодня. И судя по темпам улучшения этих инструментов за последние пару кварталов, я убежден, что это станет возможным с приемлемыми результатами в какой-то момент в этом году».
Однако Стенберг заключил, что пока ИИ, как правило, не так хорош в исправлении проблем, как в их поиске, что также усугубляет дисбаланс: несколько гигантских компаний и армии пользователей их инструментов заполняют почтовые ящики гораздо меньшего числа и гораздо менее обеспеченных ресурсами проектов с открытым исходным кодом. Таким образом, даже когда эти отчеты хороши, это бремя.
Дэн Лоренс, генеральный директор и соучредитель компании по безопасности Chainguard, согласился. Он сказал: «Я думаю, что Glasswing — это захватывающе, и такой осторожный запуск — это ответственный способ передать эти возможности в руки тех, кто пытается использовать их во благо. В то же время проекты и предприятия, которые их используют, вероятно, не готовы к наплыву реальных уязвимостей и исправлений, которые им нужно будет выпустить быстро».
Лоренс предупредил: «Это лишь вопрос времени, когда другие выпустят столь же мощные модели, так что всем придется очень скоро готовиться к натиску работы. Люди не могут продолжать делать вид, что этого не происходит или что это не грядет».
Затем я связался с Дэвидом Уилером, директором по безопасности цепочки поставок открытого исходного кода в Linux Foundation (LF). Кстати, LF — одна из групп, поддерживающих Glasswing. Уилер сказал: «Anthropic продвигает не только „найти“, но и „сканировать и обезопасить“. То есть они используют ИИ не только для поиска уязвимостей, но и для создания исправлений для них. Я думаю, это ключ: хорошее предложенное исправление значительно облегчает работу с отчетом и делает предполагаемую уязвимость более понятной».
Скоро мы увидим, насколько хороша Anthropic в поиске и исправлении.
Меня также беспокоит еще один вопрос. Mythos — это проприетарное программное обеспечение. Конечно, мы все заглядывали в код Claude от Anthropic, но, как скажут вам юристы Anthropic большими красными буквами, их код не является открытым исходным кодом. Так что, даже если Mythos окажется величайшим достижением в программировании со времен изобретения компилятора, не означает ли это, что программное обеспечение с открытым исходным кодом окажется запертым в проприетарном решении? Сама мысль вызывает у меня дрожь.
Уилер ответил: «Существует ли риск привязки к поставщику? Да, это всегда риск. Тем не менее, я не думаю, что риск настолько велик, и мы работаем над способами решения этой проблемы».
«Во-первых: даже если инструмент будет доступен только в течение определенного периода времени, если инструмент может помочь нам найти и устранить уязвимости, это все равно хорошо. Программное обеспечение конечно; оно имеет конечное число дефектов, и некоторые дефекты безопасности более важны, чем другие. Чем больше уязвимостей мы сможем устранить, тем меньше их можно будет использовать, даже если услуга прекратится или станет слишком дорогой».
«Тем не менее, мы беспокоимся о привязке. Мы также заинтересованы в решениях. В конце концов, новая система киберлогики для ПО с открытым исходным кодом (OSS-CRS) возникла из AIxCC и представляет собой стандартный фреймворк оркестрации для создания и запуска автономных систем поиска и исправления ошибок на основе LLM».
В частности, «OSS-CRS определяет единый интерфейс для разработки CRS. Создайте свой CRS один раз, следуя руководству по разработке, и запускайте его в различных средах (локально, Azure…) без каких-либо изменений. Мы призываем тех, кто создает CRS, использовать такие интерфейсы, чтобы они не были так подвержены привязке. OSS-CRS также позволяет легко запускать ансамбль (набор таких инструментов). OSS-CRS делает и другие вещи, но это, надеюсь, показывает, что существуют способы смягчить риск».
Что ж, посмотрим. Лично я был бы намного счастливее, если бы Mythos был программным обеспечением с открытым исходным кодом. Почти все программное обеспечение ИИ, в своей основе, основано на открытом исходном коде.
Тем не менее, мы находимся в переломном моменте в развитии ИИ и разработки программного обеспечения. Все радикально меняется. Я должен согласиться с генеральным директором LF Джимом Землином, который заявил: «Срочность реальна. Мы находимся в самом опасном периоде, в переходном, когда злоумышленники могут получить значительное преимущество, пока технологическая экосистема переваривает влияние ИИ. Мы уже видели доказательства того, что могут делать умные команды кибербезопасности при использовании ИИ, и наблюдали в реальных условиях новые наборы эксплойтов, написанные с помощью ИИ. Отставать — не вариант».
Все это правда, но еще раз, и с чувством, я очень, очень хотел бы, чтобы ответ был написан в коде с открытым исходным кодом. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Steven J. Vaughan-Nichols
