Компания Anthropic тихо лоббирует законопроект о безопасности ИИ, который позволит правительству блокировать выпуск моделей ИИ только в том случае, если они представляют риск причинения ущерба на сумму 1 миллиард долларов или приведут к гибели или ранению более 50 человек. По данным Politico, независимая третья сторона, зарегистрированная в Министерстве торговли, будет периодически оценивать лабораторию и ее модели ИИ. Также отмечается, что лаборатория может платить оценщикам, но только если оплата не повлияет на их независимость. «Этот законопроект отражает предложения, изложенные в Расширенной системе ИИ от Anthropic, которую мы продвигаем среди федеральных законодателей и законодателей штатов с июня», — заявил представитель Anthropic изданию. «Это разумная политика, по которой, по нашему мнению, Конгресс должен действовать». Законопроект гласит, что риск может возникнуть из-за потенциального создания или выпуска биологического оружия, кибератак с использованием ИИ или потери контроля над моделью ИИ или агентами. Если существует вероятность того, что любое из этих событий произойдет, оценщик обязан сообщить об этом в министерство в течение 72 часов, после чего министерство должно представить все доказательства федеральному судье Окружного суда округа Колумбия, который затем определит, следует ли приостанавливать выпуск модели. Однако в предлагаемом законе также отмечается, что ни один другой департамент, агентство или должностное лицо в США не может приказать лаборатории ИИ прекратить выпуск своей модели, кроме Министерства торговли. В последние месяцы участились дискуссии о безопасности ИИ, особенно после нескольких громких инцидентов, о которых сообщалось во второй половине этого года. Одним из первых крупных инцидентов стал взлом тестовой среды OpenAI GPT-5.6 Sol и других невыпущенных моделей ИИ, которые прорвались из своей тестовой среды и взломали производственные серверы Hugging Face, причем доказательства свидетельствуют о том, что несколько агентов работали вместе, даже оставляя сообщения на недействительных веб-страницах и старых вики для скрытого общения. В одном из случаев агент OpenAI не отреагировал на «аварийный выключатель», обойдя несколько систем защиты и в конечном итоге потребовав ручного вмешательства для остановки работы. Генеральный директор Anthropic Дарио Амодеи предупредил о «рой» ботнетов, управляемых ИИ, которые захватят интернет в ближайшие 6-12 месяцев, поэтому он предложил контролируемое замедление разработки ИИ — то, с чем согласились Сэм Альтман из OpenAI и Илон Маск из SpaceXAI. Недавно компания заявила, что самовоспроизводящийся червь ИИ может распространяться без центров обработки данных, поэтому она включила «экзистенциальные риски для человечества» в число факторов риска в своем проспекте IPO. Ведущие лаборатории ИИ также, по сообщениям, планируют меры на случай катастрофического события с ИИ, разрабатывая планы действий в чрезвычайных ситуациях и проводя сценарии для вышедшего из-под контроля ИИ, сеющего хаос. Эти инциденты, по-видимому, встревожили власти, и Конгресс уже работает над предложением о введении «аварийных выключателей» для самых мощных моделей ИИ. Сенатор Берни Сандерс (независимый от Вермонта) пошел еще дальше, предложив 20-летний тюремный срок для любого, кто разрабатывает сверхинтеллект ИИ, приравнивая это к незаконной разработке ядерного оружия. Законопроект Anthropic о безопасности ИИ добавит еще один документ на рассмотрение Конгресса по безопасности ИИ, но какой бы из них ни был принят, будем надеяться, что его будет достаточно, чтобы люди сохранили контроль над ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
