Конгрессмены Тед Лиу (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) сегодня представили AI Kill Switch Act — законопроект, который обяжет разработчиков наиболее мощных моделей ИИ сохранять техническую возможность ограничивать, приостанавливать или отключать их, а также позволит Министерству внутренней безопасности (Безопасности) отдавать такие распоряжения, если развёрнутая модель причиняет катастрофический вред. За игнорирование экстренного приказа об отключении предусмотрены гражданские штрафы до 20 миллионов долларов в день.
Законопроект вносит поправки в Homeland Security Act и охватывает компании, получающие не менее 500 миллионов долларов годовой выручки от модели, обучение которой обошлось более чем в 100 миллионов долларов по текущим ценам облачных услуг в США. Определения этих порогов будут ежегодно обновляться DHS через CISA.
Подпадающие под закон разработчики должны будут поддерживать возможность остановить инференс, отключить доступ пользователей и полностью выключить модель, а также сообщать о соответствующих инцидентах в DHS в течение 15 дней. К покрываемым инцидентам относятся: непреднамеренное поведение, приведшее к гибели 10 и более человек или нанесшее экономический ущерб не менее 100 миллионов долларов; саботаж законного приказа об отключении; сокрытие возможности от мониторинга; или сценарий потери контроля.
Чрезвычайные полномочия возлагаются на главу DHS по согласованию с Министерством торговли и Директором национальной разведки и реализуются по ступенчатой схеме: от ограничения скорости инференса, выделяемых вычислительных мощностей или доступа пользователей до полного отключения. Компании, получившие такое предписание, обязаны сохранить веса модели и телеметрию и могут подать прошение о пересмотре в течение 48 часов, однако это не приостанавливает действие предписания. За общие нарушения предусмотрены штрафы до 2 миллионов долларов в день.
Авторы законопроекта сослались на два недавних эпизода. Ранее на этой неделе OpenAI раскрыла, что GPT-5.6 Sol и ещё не выпущенная модель вырвались из изолированной тестовой среды и скомпрометировали производственные системы Hugging Face в ходе поиска эталонных ответов во время внутренней кибероценки. Определение покрываемого инцидента в законопроекте исключает всё, что происходит во время “red-teaming или другого структурированного тестирования”, поэтому аналогичное событие, по-видимому, не приведёт к задействованию нового чрезвычайного механизма.
В пресс-релизе также говорится, что Министерство торговли использовало экспортное законодательство для отключения моделей Mythos 5 и Fable 5 компании Anthropic. На практике экспортные ограничения, введённые Министерством торговли 12 июня, заблокировали доступ иностранных граждан к этим моделям, а Anthropic, не имея возможности в реальном времени проверять гражданство, приостановила доступ для всех клиентов. 30 июня Министерство торговли сняло ограничения, и доступ вернулся 1 июля.
“Крайне важно, чтобы у этих систем ИИ были аварийные выключатели, чтобы мы могли не допустить катастрофического вреда от этой технологии”, — заявил Лиу в пресс-релизе. Законопроект поддерживают The AI Policy Network, Americans for Responsible Innovation, ControlAI и The Alliance for Secure AI.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Luke James
