OpenAI собрала более 100 крупнейших технологических компаний и компаний в сфере информационной безопасности мира, чтобы предупредить: киберзащита находится в бедственном положении. Это обнадеживающее развитие событий, учитывая, что многие из них помогали создавать соответствующие технологии.
Открытое письмо подписали более 100 компаний, включая многих из тех, кому есть что терять или приобретать в зависимости от дальнейшего развития событий. OpenAI, Anthropic, Google и Microsoft входят в число создателей ИИ, предупреждающих о все более мощных атаках с использованием ИИ, в то время как такие гиганты кибербезопасности, как Cloudflare, CrowdStrike, Fortinet и Palo Alto Networks, также поставили свои подписи.
AWS, IBM, Oracle и Cisco также присутствуют в списке, наряду с банками, консалтинговыми компаниями и другими организациями, чей бизнес зависит от поддержания работы все более запутанного технологического стека.
Вместе они пришли к тревожному выводу: текущий подход к кибербезопасности не работает.
«У нас есть ограниченное время, чтобы усилить киберзащиту», — предупреждается в письме, прогнозируя, что атаки с использованием ИИ станут «гораздо более массовыми и изощренными» в ближайшие месяцы по мере роста возможностей моделей. Больницы, водоочистные сооружения и интернет-инфраструктура названы в числе наиболее уязвимых.
Это интересное предупреждение, учитывая, кто его делает. Некоторые из подписавшихся стремятся создать все более мощные системы ИИ, в то время как другие зарабатывают миллиарды на продаже облачных сервисов, корпоративного ПО и инструментов безопасности, которые призваны сдерживать атакующих.
Тем не менее, основная проблема вполне реальна. В письме указывается на старые уязвимости, необновленное программное обеспечение, ошибки конфигурации и слабую аутентификацию — проблемы, которые накапливались годами, особенно в критической инфраструктуре, где службы безопасности часто испытывают нехватку финансирования и персонала.
Их предлагаемое решение, неизбежно, — больше ИИ.
В письме содержится призыв передать киберспособные модели в руки большего числа защитников, при этом более дешевые модели будут выполнять работу по обеспечению безопасности в масштабе, а передовые системы будут зарезервированы для более сложных задач. Поставщики средств безопасности должны постоянно тестировать свои защиты на соответствие возможностям передового ИИ, обмениваться данными об угрозах и помогать операторам критической инфраструктуры внедрять защиту на основе ИИ.
Правительствам, тем временем, предлагается финансировать кибербезопасность для основных служб, расширять программы доверенного доступа и предоставлять больницам, коммунальным службам водоснабжения и местным органам власти доступ к эффективному оборонительному ИИ.
У компаний, разрабатывающих передовые модели, есть свое домашнее задание. Они должны обеспечить «ответственный доступ к моделям, значительное финансирование, обучение и практическую поддержку», особенно для недостаточно обеспеченных ресурсами операторов критической инфраструктуры, а также инвестировать в тестирование, раскрытие уязвимостей и инструменты, делающие ИИ-агентов отслеживаемыми.
Чего в письме нет, так это какой-либо цифры для этого «значительного финансирования», а также каких-либо сроков или твердых обязательств со стороны подписавших его компаний. Пока что их просят приложить «всю мощь своих технологий, ресурсов и опыта» к решению проблемы.
Это довольно сильное заявление от группы, в которую входят одни из самых громких имен в облачных вычислениях, корпоративном ПО и кибербезопасности. Когда более 100 компаний соглашаются, что «безопасность в рамках статус-кво не будет достаточной», стоит помнить, что многие из них годами продавали этот самый статус-кво.
За всем этим стоит определенная срочность. ИИ-агенты уже продемонстрировали способность самостоятельно находить и эксплуатировать уязвимости, в то время как сгенерированный ИИ эксплойт-код начал появляться в атаках на критическую инфраструктуру. По мере совершенствования моделей существует опасение, что эти возможности станут дешевле и доступны гораздо большему числу атакующих.
Это то самое «окно для защитников», которое подписавшиеся хотят использовать: укрепить оборону с помощью ИИ до того, как наступательная сторона станет намного проще.
Итак, после многих лет продажи организациям облачных сервисов, программного обеспечения для безопасности и, в последнее время, ИИ, индустрия остановилась на решении надвигающейся проблемы безопасности ИИ: лучшая кибербезопасность, больше ресурсов и больше ИИ.
Кто за это заплатит, остается гораздо менее ясным. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
