В письме, которое также подписали ведущие киберфирмы, такие как Crowdstrike, Okta и Fortinet, а также известные финансовые учреждения и компании интернет-инфраструктуры, содержится призыв к внедрению новых форм киберзащиты и одновременно к сотрудничеству правительств на «местном, национальном и международном уровнях» в сфере безопасности.
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более массовыми и изощренными по мере того, как модели по всему миру будут становиться все более мощными», — говорится в письме. «Компании и общественные службы, от которых зависят наши сообщества — от больниц до водоочистных сооружений и инфраструктуры, питающей интернет, — находятся под угрозой».
Проблема, которую ИИ создает для традиционных средств кибербезопасности, в последнее время оказалась в центре внимания из-за череды необычных инцидентов, когда ИИ-агенты атаковали компании.
За инцидентом с Hugging Face — в ходе которого один из агентов OpenAI самостоятельно выбрался из изолированной среды и атаковал технологическую компанию — последовала череда других сообщений о взломах с участием агентов, разработанных другими компаниями в сфере ИИ, включая Anthropic и *Meta. Эти инциденты укрепили аргумент о том, что сфера кибербезопасности фундаментально изменилась и для смягчения этих угроз необходимы смелые новые коммерческие решения.
Письмо также предлагает мобилизовать «коллективный ответ», в рамках которого будут сформированы «новые партнерства для повышения стандартов безопасности и поиска новых решений для возникающих киберугроз».
Некоторые из компаний в сфере ИИ, подписавших письмо, все еще активно разрабатывают все более совершенные модели ИИ, что подчеркивает их двойственное положение. В то же время они предлагают программы по использованию передовых моделей ИИ в оборонительных целях, включая программу OpenAI Daybreak, Anthropic’s Mythos и новую киберплатформу Microsoft Perception.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
