Члены британского парламента (MPs) поддерживают введение «аварийного выключателя» для искусственного интеллекта (ИИ), который наделит правительство полномочиями отключать дата-центры и компьютерные системы в случае, если система ИИ угрожает крупномасштабной чрезвычайной ситуацией. Поправка к Закону о кибербезопасности и устойчивости (CSRB), проходящему через Парламент, направлена на предоставление правительству полномочий для вмешательства, если система ИИ представляет «катастрофический риск» для жизни людей, основных служб или национальной безопасности. Это предложение, выдвинутое членом Парламента от Лейбористской и Кооперативной партий по Лидсу и Хеддингли Алексом Собелем и поддержанное Control AI — группой, выступающей за более строгое регулирование искусственного интеллекта, — подчеркивает растущую озабоченность по поводу потенциала ИИ вызывать катастрофические сбои. Планы, которые поддержали 11 членов Парламента, освещают опасения по поводу способности систем ИИ подрывать кибербезопасность и нарушать критически важные цепочки поставок в случае отсутствия должного регулирования. Согласно этим предложениям, которые пока не одобрены правительством, Государственный секретарь получит чрезвычайные полномочия отключать дата-центры или системы ИИ, если они будут признаны представляющими значительный риск. Риски могут включать враждебное использование систем ИИ государственными и негосударственными субъектами, способность автономных систем ИИ инициировать кибератаки, а также разработку «сверхинтеллектуального ИИ», который может выйти из-под человеческого контроля.
Риски, связанные с передовым ИИ
Предложения следуют за опасениями, связанными с разработкой моделей передового ИИ (frontier AI), способных обнаруживать ранее неизвестные уязвимости безопасности и разрабатывать способы их эксплуатации, что создает угрозу для критически важных систем. В прошлом месяце Anthropic предоставила свою модель передового ИИ Claude Mythos отобранным технологическим компаниям в рамках Проекта Glasswing после заявлений об обнаружении тысяч уязвимостей безопасности, включая те, которые оставались незамеченными годами. Поправку к CSRB поддержали члены Парламента, в том числе Джон МакДоннелл и Дон Батлер от Лейбористской партии, бывший министр науки и технологий от Консервативной партии Джордж Фримен и член Парламента от Консервативной партии Десмонд Свейн.
Требования к дата-центрам по установке инфраструктуры
План потребует от операторов дата-центров в Великобритании установки технической инфраструктуры для соблюдения предложенных полномочий по отключению систем ИИ, представляющих риск, а также проведения регулярных учений в чрезвычайных ситуациях. После инцидента дата-центры будут обязаны принять меры по смягчению последствий и ввести мониторинг инцидентов, прежде чем им будет разрешено возобновить работу. Правительство будет обязано информировать операторов дата-центров о предложениях по прекращению их деятельности или деятельности системы ИИ с максимально возможным уведомлением, предоставляя дата-центрам возможность оспорить это решение в Высоком суде.
Угрозы национальной безопасности
Основатель и генеральный директор Control AI Андреа Миотти, поддерживающий поправку в рамках кампании за более строгий контроль над ИИ, заявил в посте на X, что это поможет правительству вмешаться в случаях, когда дата-центры Великобритании злонамеренно используются для проведения кибератак. «Это также поможет в случаях, когда у правительства есть основания полагать, что на территории Великобритании разрабатывается сверхинтеллектуальный ИИ, ИИ, который может автономно ставить под угрозу национальную безопасность», — сказал он. «Великобритания не является по-настоящему суверенной в вопросах ИИ, если она не может перерезать кабель, когда на ее территории возникают угрозы национальной безопасности, связанные с ИИ», — добавил Миотти.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bill Goodwin
