Politico недавно сообщил, что AI-лаборатория продвигает новый проект закона о безопасности ИИ, который, как она надеется, Конгресс может рассмотреть для принятия. Законодательство предусматривает определённые сценарии, при которых выпуск модели ИИ может быть заблокирован для распространения.
Эти сценарии включают «предсказуемый неминуемый риск» — такой, при котором под угрозой смерти находятся более 50 человек или который может привести к ущербу имуществу на сумму свыше миллиарда долларов, пишет Politico. Катастрофический риск должен «проистекать из создания или высвобождения биологического оружия, уклонения модели от контроля разработчика или кибератаки», отмечает издание.
Предложенные показатели — 50 человек и миллиард долларов — аналогичны тем, что содержатся в недавно принятом законе Калифорнии, Законопроекте Сената 53, который аналогичным образом определяет эти сценарии как «катастрофический риск».
Законопроект Anthropic предполагает, что анализ потенциала модели к катастрофе может быть проведён с помощью «независимых оценщиков», которые будут зарегистрированы в Министерстве торговли США. Эти оценщики потенциально могут оплачиваться самими AI-лабораториями — при условии, что «оплата не зависит от результатов оценок», пишет Politico.
Непонятно, как эта предложенная система гарантирует, что платежи не смогут повлиять на оценку. Демис Хассабис, председатель DeepMind, несколько месяцев назад предположил, что самоуправляемый регулирующий орган в сфере ИИ должен имитировать Регуляторный орган финансовой индустрии (Financial Industry Regulatory Authority, FINRA).
В проекте закона Anthropic, когда оценщики определяют наличие неминуемого катастрофического риска, у них есть 72 часа, чтобы сообщить об этом в Министерство торговли. Затем Министерство торговли должно обратиться к федеральному судье с просьбой приостановить выпуск модели. Законодательство прямо запрещает любому федеральному агентству самостоятельно принимать решение о приостановке распространения модели, пишет Politico.
Anthropic не сразу ответил на запрос TechCrunch о комментарии, но представитель подтвердил проект закона для Politico. «Этот законопроект отражает предложения, изложенные в Anthropic’s Advanced AI Framework, которые мы продвигаем среди федеральных и местных законодателей с июня», — заявил представитель.
Теоретические риски, предложенные в проекте политики, несколько далеки от инцидентов, которые в последнее время были в центре внимания технологической индустрии. Хотя есть люди, предупреждающие о возможности гибели людей, основной проблемой в основном была угроза агентного взлома. Череда инцидентов, в ходе которых программы ИИ, по-видимому, ослушались своих операторов-людей и взломали веб-сайты в открытом интернете, вызвала опасения, что моделям может не хватать надлежащих мер безопасности.
В попытке предложить решение того кризиса, к которому сами лаборатории помогли привести, такие компании, как Anthropic, предложили свои собственные предпочтительные решения.
Действительно, несмотря на постоянные предупреждения лабораторий о том, что продаваемая ими технология может привести к гибели человеческой цивилизации, они в значительной степени сопротивлялись обязательному государственному надзору. Вместо этого они предложили добровольную систему встроенных оценщиков — якобы «нейтральных» сторонних наблюдателей, которые размещаются внутри AI-организаций для мониторинга моделей на предмет потенциальных признаков риска или злоупотреблений.
Тем не менее, само предложение Anthropic о законодательстве, похоже, идёт немного дальше других регуляторных инициатив, предложенных отраслью, включая Nvidia, чей генеральный директор Дженсен Хуанг недавно утверждал, что AI-индустрия вообще не нуждается в новых законах.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
