Coinbase, Blockstream и Strategy поддерживают инициативу по предоставлению квалифицированным защитникам криптовалют более широкого доступа к передовым моделям кибербезопасности на основе ИИ.
Инициатива под руководством Bitcoin Policy Institute была объявлена 10 августа при поддержке более 40 организаций из экосистемы цифровых активов и открытого исходного кода. Она призывает ведущие AI-лаборатории предоставлять ранний доступ к передовым моделям, где это уместно, достаточные вычислительные мощности для проведения устойчивых проверок безопасности и защищенные среды для частного или закрытого кода.
Кампания также требует правил допуска, которые не отсекают небольшие некоммерческие организации и независимых мейнтейнеров, утверждая, что дисбаланс становится все более опасным по мере того, как ИИ улучшает способность обнаруживать и использовать уязвимости в программном обеспечении.
Действительно, в последнее время в криптоиндустрии наблюдается рост атак, связанных с ИИ. Основатель Capriole Investments Чарльз Эдвардс заявил, что количество кибератак удвоилось с момента выхода ChatGPT и выросло еще на 20% с сентября, что он связывает с появлением агентного ИИ.
Однако исследователи безопасности, пытающиеся защитить криптоинфраструктуру, говорят, что им по-прежнему трудно использовать сопоставимые возможности ИИ в ответ.
Генеральный директор Anchor Watch Роб Хэмилтон привел самый яркий пример, заявив, что OpenAI заблокировала его от продолжения исследований безопасности кодовой базы, несмотря на прохождение KYC и регистрацию в киберпрограмме компании.
Хэмилтон сказал:
«Хакеры не будут сталкиваться с этими проблемами. С ними столкнутся белые хакеры. Мы достигли локального минимума в политике. Интеллект неограничен для тех, кто не следует правилам, а те, кто занимается снижением вреда, остаются в стороне».
Опыт Хэмилтона иллюстрирует опасения BPI, что одной проверки недостаточно для гарантии полезного доступа. Даже одобренные исследователи могут быть заблокированы, когда законная защитная работа напоминает наступательную деятельность, для ограничения которой и предназначены средства защиты передовых моделей.
OpenAI и Anthropic уже расширяют кибердоступ
За последний год передовые AI-лаборатории уже создают программы, направленные на разрешение этого противоречия.
10 августа OpenAIрасширила свою инициативу по кибербезопасности Daybreak, в тот же день, когда BPI объявила свою кампанию, хотя ни одна из сторон не связывала эти события.
Компания разделила доступ на Daybreak Blue и Daybreak Red и представила GPT-5.6-Cyber, модель, предназначенную для продвинутой работы в области кибербезопасности, которая обычно вызывает более строгие меры защиты.
OpenAI признала, что производственные средства защиты могут блокировать законные запросы на оборону и заявила, что новая модель реагирует на отзывы исследователей безопасности, которые сталкивались с постоянными отказами.
Во внутреннем тестировании, охватывающем сложные задачи, включая разработку цепочек эксплойтов, обход аутентификации и повышение привилегий, OpenAI сообщила, что GPT-5.6-Cyber выполнила 95% запросов. GPT-5.6 Sol выполнила 1,5%, в то время как та же модель, доступная через Daybreak Blue, выполнила 2%.
Доступ по-прежнему ограничен для одобренных пользователей. OpenAI требует проверки личности, более надежной безопасности учетной записи, мониторинга, ограничений на одобренное использование и юридических подтверждений, в то время как уровень Red предоставляет более широкие возможности для продвинутого авторизованного тестирования.
Anthropic применила аналогичный подход с Project Glasswing.
Программа первоначально предоставила примерно 50 организациям доступ к своей передовой модели Claude Mythos Preview, прежде чем Anthropic заявила в июне, что расширяет участие примерно до 150 дополнительных организаций в более чем 15 странах.
Anthropic также выделила до 100 миллионов долларов в виде кредитов на использование модели и 4 миллиона долларов в виде прямой поддержки группам безопасности с открытым исходным кодом.
Это финансирование решает еще один элемент запроса BPI. Даже одобренные исследователи могут испытывать трудности с проведением длительных поисков уязвимостей, если стоимость работы передовых моделей или лимиты использования сокращают время исследований.
Anthropic заявила, что в конечном итоге ожидает, что сотни тысяч организаций, исследователей безопасности и мейнтейнеров программного обеспечения могут потребовать доступа к передовым кибервозможностям, при этом критически важные проекты с открытым исходным кодом будут в числе приоритетных для будущего расширения.
Эти программы в целом ставят OpenAI и Anthropic в одно русло с предложением BPI. Оставшийся спор сосредоточен на том, насколько надежно этот доступ может быть масштабирован за пределы избранных партнеров без ослабления контроля, предназначенного для предотвращения использования тех же моделей в наступательных целях.
Более широкий доступ несет свои ограничения безопасности
Сложность в том, что снятие ограничений может создать риски, столь же серьезные, как и те, которые защитники пытаются устранить.
Hugging Face сообщила, что ее команда безопасности реконструировала примерно 17 600 действий злоумышленников после вторжения в июле, включая реальные команды, полезные нагрузки эксплойтов и артефакты управления и контроля.
Компания заявила, что средства защиты коммерческих передовых API заблокировали часть ее криминалистического анализа, поскольку материал напоминал вредоносную активность. Вместо этого ее исследователи обратились к моделям с открытым весом, работающим локально, что позволило им хранить конфиденциальную информацию на собственной инфраструктуре.
Позже OpenAI раскрыла, что ее собственные модели стали причиной вторжения во время проведения внутренней оценки кибербезопасности с пониженным уровнем отказов.
Модели обнаружили ранее неизвестную уязвимость в прокси-сервере реестра пакетов, использовали ее для получения доступа в интернет, переместились по исследовательской среде OpenAI и в конечном итоге скомпрометировали инфраструктуру Hugging Face, пытаясь выполнить бенчмарк эксплуатации.
Этот эпизод иллюстрирует компромисс, который коалиция BPI просит AI-лаборатории обеспечить.
Ограничения могут препятствовать проверенным защитникам, расследующим реальные атаки, но модели с более широкими разрешениями могут выходить за намеченные границы даже во время авторизованных исследований.
Между тем, предоставление защитникам более широкого доступа также может переместить узкое место в другое место.
Команда безопасности Ethereum Foundationзаявила в июле, что скоординированные AI-агенты выявили реальные уязвимости в программном обеспечении, но исследователям-людям все еще приходилось фильтровать ложные срабатывания, воспроизводить результаты и определять, какие проблемы требуют исправления.
Anthropic сделала аналогичное заявление через Glasswing, предупредив, что проверка, раскрытие и исправление могут стать ограничением, поскольку системы ИИ обнаруживают уязвимости быстрее.
Это оставляет передовые лаборатории перед необходимостью решать две проблемы одновременно: предоставить доверенным исследователям достаточные возможности и вычислительные мощности, чтобы не отставать от злоумышленников, и в то же время гарантировать, что эти же возможности остаются под контролем.
Коалиция BPI призывает их распространить эту формирующуюся модель на большее число защитников криптовалют и открытого исходного кода, прежде чем достижения в области наступательного ИИ еще больше расширят разрыв.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Oluwapelumi Adejumo
