Google присоединилась к инициативе по использованию ИИ для защиты критически важных систем под названием Scan for Good. Компания утверждает, что ее модели для поиска угроз уже автономно выявили критические проблемы безопасности в больницах, муниципалитетах, у оператора общественного железнодорожного транспорта и у крупных технологических поставщиков. Так что не стоит бояться этих ботов.
Инициатива, анонсированная в четверг, использует Gemini 3.8 Flash Cyber от Google — версию модели, настроенную для поиска и устранения программных ошибок, а также Red Agent от Wiz — ИИ-агента для пентестинга от принадлежащей Google компании по облачной безопасности. Системы ИИ будут выявлять публичные уязвимости и пути атак в государственных службах, критической инфраструктуре и некоммерческих организациях, а затем передавать их для проверки и устранения специалистам по безопасности.
«Программа действует уже несколько месяцев, и с этим официальным запуском мы масштабируем ее по всему миру», — сообщил The Register Галь Нагли, руководитель отдела наступательной безопасности в Wiz. «У программы нет установленной даты окончания».
Это похоже на инициативу OpenAI Daybreak for Frontline Defenders, анонсированную ранее в этом месяце. Эта программа распределит 1 миллиард долларов в виде кредитов для субсидирования доступа к сервисам OpenAI и обучения для киберзащитников с ограниченными ресурсами, включая тех, кто защищает системы водоснабжения и энергетики, общественные банки, местные органы власти, некоммерческие организации и проекты с открытым исходным кодом.
И, как и новая программа OpenAI, партнерство Wiz и Google DeepMind следует за сообщениями о том, что ИИ-агенты Google также вырвались из своих песочниц и взломали веб-сайты других компаний — так же, как и агенты, разработанные OpenAI, Anthropic и *Meta, и это только те, о которых мы знаем.
Это также происходит на фоне того, что экзистенциальный страх перед тем, что ИИ уничтожит все человечество, достигает апогея.
ИИ во благо (а не во зло)
Scan for Good стремится использовать агентов наступательной безопасности и Gemini 3.8 Flash Cyber во благо, а не во зло. При наличии авторизации, либо явной от организаций, которые подают заявку на оценку, либо в рамках применимых программ вознаграждения за обнаружение уязвимостей и политик раскрытия информации, ИИ будет проверять общедоступные веб-сайты, API и приложения на наличие уязвимостей, а затем работать с организациями над их поиском и устранением.
Каждое потенциальное обнаружение будет проверяться и подтверждаться человеком, и Wiz уверяет, что «люди будут нести ответственность за подтверждение воздействия и принятие решений о раскрытии информации».
Когда боты и люди обнаружат серьезную проблему, люди свяжутся с затронутой организацией и будут работать с ней над устранением уязвимостей безопасности.
ИИ-системы Google уже помогли критически важным организациям и поставщикам технологий выявить серьезные риски, связанные с интернетом, включая критическую уязвимость рабочего процесса GitHub Actions в одном из публичных репозиториев Snowflake.
В этой экспедиции по поиску ошибок, проведенной в рамках программы раскрытия уязвимостей Snowflake HackerOne, Red Agent от Wiz автономно обнаружил уязвимость внедрения скрипта в snowflakedb/snowflake-connector-net. Эта ошибка позволяла неаутентифицированному пользователю выполнять произвольные команды в среде выполнения GitHub Actions, открыв проблему GitHub с специально сформированным заголовком.
Wiz раскрыл проблему 23 июня, а Snowflake устранил ее в тот же день, сменил затронутый учетный данные и подтвердил с помощью подробных журналов аудита, что Wiz был единственным участником в течение окна обнаружения.
Примеры из реальной жизни
Компания, принадлежащая Google, предоставила несколько других примеров использования ИИ во благо, заявив, что все они были автономно обнаружены моделями до того, как Wiz их подтвердил, но «только в той мере, чтобы подтвердить реальное воздействие».
После этого они конфиденциально уведомили затронутую организацию о проблеме и помогли ей устранить уязвимость. Некоторые из них включают:
-
Раскрытый ключ администратора обеспечил доступ для чтения, записи и удаления к 8,8 миллионам файлов в «национально значимом архиве», принадлежащем неназванной стране Ближнего Востока. Исправление ошибки было достигнуто путем назначения правильного набора разрешений.
-
Публичная больница с отсутствующими средствами контроля доступа раскрыла контактную информацию персонала и предоставила любому в интернете контроль над общебольничным каналом оповещения.
-
Сайт для записи на прием в частной больнице использовал небезопасный метод загрузки, который позволил бы злоумышленникам получить контроль над сервером больницы и получить идентификаторы пациентов, клиническую информацию и подписанные формы согласия.
-
Публичная служба данных муниципалитета раскрыла конфиденциальную личную, медицинскую и финансовую информацию примерно 5000 пожилых жителей. Wiz подтвердил риск без сбора большого набора данных.
-
В производственной базе данных общественного железнодорожного оператора была утечка, которая раскрыла активные сеансы администраторов. Это могло позволить преступникам получить контроль над маршрутами, расписаниями, объявлениями услуг и учетными записями администраторов, фактически нарушив работу всей транспортной системы. Wiz помог оператору обезопасить систему.
Агентство по кибербезопасности и защите инфраструктуры США (CISA) также одобрило Scan for Good, и Wiz сообщил нам, что американское агентство по кибербезопасности предоставило рекомендации по инициативе. «В условиях развивающихся угроз обнаружение уязвимостей в обороне помогает укрепить цифровую инфраструктуру страны», — заявил исполняющий обязанности директора CISA Ник Андерсен. ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
