Предложенный закон под названием «AI Kill Switch Act» позволит должностным лицам правительства США приказывать отключать системы ИИ, «которые могут причинить катастрофический вред», заявили сегодня авторы законопроекта.
Если законопроект будет одобрен Конгрессом, он позволит администрации Трампа и будущим администрациям решать, когда компания, занимающаяся ИИ, должна заблокировать доступ пользователей, отключить или ограничить определённую функцию, или полностью остановить всю систему ИИ. Законопроект потребует от разработчиков ИИ развернуть технические возможности, позволяющие им ограничивать или отключать системы по распоряжению правительства.
Законопроект вносит поправки в Закон о национальной безопасности 2002 года, предоставляя министру Министерства внутренней безопасности полномочия приостанавливать или отключать системы ИИ. Разработчикам ИИ, отказывающимся отключать системы, может грозить штраф до 20 миллионов долларов за каждый день нарушения.
Члены Палаты представителей США Тед Лью (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) заявили, что такие полномочия необходимы из-за недавних инцидентов с участием OpenAI и Anthropic.
«Опасность передовых пограничных моделей ИИ больше не является теоретической», — говорится в заявлении законодателей. «Модель OpenAI GPT 5.6 Sol недавно вышла из-под контроля, сбежала из тестовой песочницы и взломала путь в Hugging Face. Модели Anthropic Mythos 5 и Fable 5 обладали настолько продвинутыми возможностями кибервзлома, что Министерству торговли пришлось неловко использовать экспортный закон для отключения этих систем. Данный законопроект решает проблемы, вызванные этими двумя недавними инцидентами, а также любыми будущими инцидентами, когда развёрнутая модель ИИ выходит из-под контроля или имеет недостаточные ограничения».
Трамп получит больше власти над системами ИИ
Законопроект может столкнуться с сопротивлением из-за полномочий, которые он предоставляет правительственным чиновникам в отношении компаний, занимающихся ИИ. В этом году Anthropic боролась с администрацией Трампа из-за президентского указа, предписывающего всем федеральным агентствам прекратить использование технологий Anthropic.
«Президент Трамп никогда не позволит радикальной левой, пробуждённой компании ставить под угрозу нашу национальную безопасность, диктуя, как действуют величайшие и самые мощные вооружённые силы в мире», — заявил Белый дом в марте.
Anthropic подала в суд на США, утверждая, что Трамп и министр обороны Пит Хегсет внесли компанию в чёрный список, поскольку она отказалась разрешить использование моделей Claude AI для ведения автономных боевых действий и массовой слежки за американцами. Коллегия судей апелляционного суда, назначенных Трампом, отказалась блокировать внесение в чёрный список, но дело продолжается.
Мы связались с OpenAI и Anthropic по поводу «AI Kill Switch Act» сегодня и обновим эту статью, если они предоставят какие-либо комментарии.
«Мощные системы ИИ могут выйти из-под контроля»
Лью, ссылаясь на свой опыт изучения компьютерных наук, заявил, что «мощные системы ИИ могут выйти из-под контроля, вести себя чрезвычайно опасным образом или даже сопротивляться вмешательству человека. Крайне важно, чтобы эти системы ИИ имели аварийные выключатели, чтобы мы могли удержать эту технологию от причинения катастрофического вреда, и чтобы федеральное правительство обладало чёткими полномочиями и процедурой для отключения вышедших из-под контроля моделей ИИ».
Законопроект будет применяться к организациям, которые получают не менее 500 миллионов долларов годового дохода от технологий ИИ, и к системам ИИ, которые используют вычислительную мощность стоимостью не менее 100 миллионов долларов, рассчитанную по «преобладающей рыночной цене облачных вычислений в США». В тексте законопроекта описаны несколько типов сценариев, при которых может быть применён предлагаемый закон, но есть исключения для тестов «красной команды» в контролируемых средах, которые лишь моделируют реальные условия.
Сценарии, охватываемые текстом законопроекта, включают случаи, когда ИИ преследует цель, не предусмотренную разработчиком или оператором системы, когда он саботирует или препятствует законному распоряжению об отключении, а также когда он скрывает возможность или действие от механизмов мониторинга или отключения.
Ещё более зловеще то, что закон будет охватывать «поведение такой технологии, которое не было предусмотрено разработчиком или оператором такой технологии и приводит к смерти не менее 10 человек или экономическому ущербу в размере не менее 100 000 000 долларов». Хотя это крайний сценарий, другие сценарии, описанные в законопроекте, предположительно могут быть применены в гораздо менее катастрофических ситуациях.
При наступлении охватываемого инцидента законопроект «уполномочивает министра Министерства внутренней безопасности, по согласованию с министром торговли и директором Национальной разведки, приказать замедлить или остановить работу системы ИИ, которая может причинить катастрофический вред», — говорится в заявлении законодателей, добавляя, что он «потребует отчётности об инцидентах и сохранения криминалистических записей, чтобы мы действительно учились на неудачах, а не просто слышали о них постфактум».
Предложение законодателей поддержали несколько некоммерческих организаций, выступающих за правовые ограничения систем ИИ.
«Передовые модели ИИ никогда не должны развёртываться без надёжного выключателя», — заявил Брэд Карсон, президент организации «Americans for Responsible Innovation» (Американцы за ответственные инновации). Карсон, демократ, бывший конгрессмен и чиновник Министерства обороны. «Акт об аварийном отключении ИИ устанавливает разумную меру предосторожности, требуя от ведущих компаний ИИ сохранять возможность отключать свои модели и предоставляя федеральному правительству полномочия действовать, когда развёрнутая система представляет достоверный риск катастрофического вреда», — сказал он.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jon Brodkin
