Проект «Patch the Planet» (что является не слишком тонким намеком на культовую фразу «Hack the Planet» из фильма «Хакеры» 1995 года) предполагает, что OpenAI объединит усилия с компанией по безопасности Trail of Bits, чтобы помочь мейнтейнерам проектов с открытым исходным кодом обезопасить свои разработки.
OpenAI сообщила, что сотрудники службы безопасности Trail of Bits будут работать напрямую с мейнтейнерами открытого ПО для проверки потенциальных проблем в коде. Для содействия в этом процессе будут использоваться инструменты безопасности OpenAI, такие как Codex Security.
«От многих мейнтейнеров уже требуют разбирать больше отчетов, быстрее, располагая тем же ограниченным временем и ресурсами», — заявили в OpenAI в понедельник. — «Patch the Planet создан для снижения этой нагрузки, а не для ее увеличения: инженеры по безопасности проверяют обнаруженные проблемы до того, как они достигнут мейнтейнеров, работают с проектами над разработкой патчей и тестов, а также создают многократно используемые рабочие процессы, которые помогают командам продолжать улучшать безопасность после внедрения первых исправлений».
Иными словами, инженеры Trail of Bits будут выполнять роль своего рода «кодовых парамедиков» — они здесь, чтобы помочь мейнтейнерам проектов с открытым исходным кодом выявлять и приоритизировать потенциальные проблемы, и все это при поддержке программного обеспечения OpenAI. Звучит как амбициозный проект, и пока не совсем ясно, как он будет функционировать в долгосрочной перспективе или как планирует масштабироваться (если вообще планирует).
Проекты с открытым исходным кодом являются цифровым фундаментом, на котором покоится индустрия коммерческого программного обеспечения, но, к сожалению, из-за децентрализованной и слабо контролируемой структуры этой экосистемы значительная часть ПО небезопасна. Ошибки в проектах с открытым исходным кодом могут обернуться серьезными проблемами для коммерческих кодовых баз. Дело с уязвимостью log4j, произошедшее несколько лет назад — когда была обнаружена серьезная уязвимость в широко используемой утилите с открытым исходным кодом — является хорошим примером.
Многие опасения, связанные с такими инструментами, как Mythos (широко разрекламированный инструмент безопасности от Anthropic), по-видимому, проистекают из того факта, что ИИ теперь может автоматически выявлять существующие ошибки в кодовых базах и приступать к созданию эксплойтов для них. Хотя автоматизация киберпреступности не является чем-то новым, эти инструменты, несомненно, могут значительно упростить жизнь злоумышленникам.
OpenAI переворачивает эту формулу с ног на голову, используя ИИ для того, чтобы помочь сообществу открытого исходного кода лучше защитить себя. Трудно не воспринять это как конкурентный выпад в сторону Anthropic, одновременно признавая, что это именно то, что отчаянно необходимо сообществу открытого ПО.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
