Anthropic не выпустила свою модель для поиска уязвимостей Mythos в публичный доступ из-за опасений, что она позволит злоумышленникам находить и эксплуатировать уязвимости до того, как кто-либо успеет отреагировать.
Однако модель компании Opus 4.6, которую уже сменил выпуск Opus 4.7 в четверг (см. новость), способна разрабатывать функциональный эксплойт-код.
В посте в блоге в среду Мохан Педхапати (s1r1us), технический директор Hacktron, описал, как он использовал Opus 4.6 для создания полной цепочки эксплойтов, нацеленной на движок JavaScript V8 в Chrome 138, который используется в текущих версиях Discord.
“Ошибка V8 [выход за границы массива], которую мы использовали, была из Chrome 146 — той же версии, на которой работает собственный Claude Desktop от Anthropic”, — сказал он. “Неделя переписки, 2,3 миллиарда токенов, 2283 доллара затрат на API и около 20 часов моего времени на вывод из тупиков. В результате открылся калькулятор”.
В конечном итоге любой скрипт-кидди с достаточным терпением и ключом API сможет получать доступ к оболочке
“Открылся калькулятор” — это отсылка к запуску приложения “Калькулятор”, событие, которое часто используется в коде эксплойтов “доказательства концепции” для обозначения успешного компрометирования целевой системы.
Педхапати отметил, что, хотя 2283 доллара — это значительная сумма для частного лица, это очень мало по сравнению с неделями, которые потребовались бы человеку для разработки аналогичного эксплойта без помощи. Даже если добавить несколько тысяч долларов за время, потраченное Педхапати на работу с моделью, это все равно значительно меньше теоретического вознаграждения (~15 000 долларов), которое можно получить от программ поощрения за обнаружение уязвимостей от Google и Discord. И это только легальный рынок — кто знает, сколько могут заплатить преступники за горячий 0-day?
Согласно системной карте Opus 4.7, “Opus 4.7 примерно соответствует Opus 4.6 по кибервозможностям”. Но он, по-видимому, менее способен, чем Mythos Preview, и оснащен “мерами защиты, которые автоматически обнаруживают и блокируют запросы, указывающие на запрещенное или высокорисковое использование в сфере кибербезопасности”.
Но для Педхапати конкретная модель не является проблемой. Проблема заключается в постоянном совершенствовании генерации кода, что требует изменения позиции и процедур безопасности.
“Неважно, переоценен Mythos или нет”, — сказал Педхапати. “Кривая не выравнивается. Если не Mythos, то следующая версия, или та, что после нее. В конечном итоге любой скрипт-кидди с достаточным терпением и ключом API сможет получать доступ к оболочке на необновленном программном обеспечении. Это вопрос времени, а не “если””.
Для приложений, основанных на фреймворке Electron на базе Chrome (например, Slack, Discord и т. д.), вопрос заключается в том, когда они обновят свою кодовую базу до последней версии, которая все еще отстает от последнего выпуска Google Chrome.
Electron 41.2.1, выпущенный 15 апреля, включает Chrome 146.0.7680.188, всего на одну версию отставая от версии Google Chrome для настольных ПК (147.0.7727.101/102), выпущенной в тот же день. Но разработчики приложений на Electron не всегда обновляют свои зависимости и немедленно выпускают новые версии. И пользователи не всегда получают эти обновления немедленно.
Педхапати сказал, что выбрал Discord в качестве цели, потому что “он работает на Chrome 138, отставая от текущей версии на девять мажорных версий”.
Педхапати утверждает, что по мере того, как модели ИИ становятся более способными к разработке эксплойтов, окно для установки патчей сокращается.
“Каждый патч — это, по сути, подсказка для эксплойта”, — утверждает он, добавляя, что это будет особенно сложно для проектов с открытым исходным кодом, поскольку исправления часто становятся публично видимыми в коде до выпуска обновленной версии.
Свой совет разработчикам он сводит к тому, чтобы больше внимания уделять безопасности до публикации кода и внимательнее следить за зависимостями, чтобы изменения можно было вносить быстро. Он также утверждает, что исправления безопасности должны применяться автоматически, чтобы люди не оставались уязвимыми из-за того, что забыли принять обновление. И он считает, что проекты с открытым исходным кодом, такие как V8, должны проявлять большую осторожность в отношении того, когда публиковать детали уязвимостей.
“Каждый публичный коммит — это стартовый пистолет для любого, у кого есть ключ API и сильные члены команды, способные превратить это в оружие”, — заключил он. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn
