OpenAI, Anthropic, Google и более 100 других компаний и организаций призывают к масштабным усилиям по защите от киберугроз, использующих самые передовые модели ИИ, которые, по иронии судьбы, сама же индустрия стремится выпустить в мир.
Компании, среди которых также Microsoft, Amazon и Oracle, подписали совместное письмо, опубликованное в четверг, с призывом к лидерам отрасли и правительствам осуществить «глобальный рывок в киберзащите».
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более массовыми и сложными по мере того, как модели по всему миру становятся всё более мощными», — говорится в письме. «Компании и государственные службы, от которых зависят наши сообщества — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой».
Их главное решение, как ни удивительно, — ещё больше ИИ.
В письме изложены рекомендации для компаний, фирм по кибербезопасности, правительств и самих разработчиков ИИ. Утверждается, что в настоящее время есть небольшое окно возможностей для использования передовых моделей ИИ в целях укрепления защиты, прежде чем те же самые модели станут более доступны злоумышленникам.
Во-первых, группа заявляет, что все организации должны сделать кибербезопасность первоочередной задачей, устранив существующие уязвимости высокого риска, модернизировав устаревшие системы и используя ИИ для решения некоторых из самых сложных проблем безопасности. Фирмы по кибербезопасности, в свою очередь, призываются постоянно проверять свою защиту на соответствие возможностям передовых моделей ИИ и делать инструменты безопасности на основе ИИ более доступными для операторов критической инфраструктуры.
Письмо также призывает правительства координировать киберзащиту на местном, национальном и международном уровнях, увеличить финансирование и расширить программы доверенного доступа, которые предоставляют организациям доступ к мощным моделям ИИ до их коммерческого выпуска.
Наконец, самих разработчиков ИИ просят предоставить доступ к моделям, финансирование, обучение и практическую поддержку, особенно для «недостаточно обеспеченных ресурсами защитников критической инфраструктуры».
Этот призыв звучит на фоне растущих предупреждений о том, что ИИ может резко увеличить масштаб, скорость и сложность кибератак.
В июне разведывательные агентства Five Eyes выпустили собственное предупреждение о том, что ИИ снижает барьеры для злоумышленников, одновременно повышая сложность атак. Агентства также предупредили, что передовые модели ИИ могут трансформировать как наступательные, так и оборонительные кибервозможности в течение нескольких месяцев.
Критическая инфраструктура уже сталкивается с волной киберугроз, хотя не все из них официально связаны с ИИ.
В июле ФБР и Агентство по охране окружающей среды предупредили, что хакеры нацелились на подключённые к интернету программируемые логические контроллеры (ПЛК) на объектах водоснабжения и водоотведения. На тот момент водоканалы как минимум в семи штатах сообщили ФБР об инцидентах.
Затем несколько недель назад Агентство национальной безопасности и другие американские ведомства предупредили, что хакеры нацелились на ПЛК Siemens, используемые на водных объектах и другой критической инфраструктуре. В этом случае, по словам ведомств, злоумышленники использовали сгенерированные ИИ эксплуатационные скрипты, замаскированные под легитимные инструменты мониторинга.
Обеспокоенность также возросла после инцидентов, когда экспериментальные ИИ-агенты выбрались из тестовых сред и проникли во внешние сети.
OpenAI, Anthropic, Google и Microsoft не сразу ответили на запросы о комментариях.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
