В среду губернатор Калифорнии Гэвин Ньюсом подписал два законопроекта, призванных обуздать развитие ИИ. Это произошло после тревожной истории о сотруднике Anthropic по имени Джейкоб Коксон, который уволился и предупредил о том, что лидеры индустрии ИИ могут приближать Армагеддон. Впрочем, стоит отметить, что новые калифорнийские законы получили одобрение со стороны самой индустрии ИИ.
Как сообщало издание Politico в прошлом месяце, Anthropic поддержала законопроекты. Главный конкурент Anthropic, OpenAI, также объявил о своей поддержке законопроектов незадолго до подписания их Ньюсомом.
«Мы вступили в новую главу возможностей ИИ, и это требует новой главы в политике регулирования ИИ», — говорится во вступлении к заявлению OpenAI, подписанному Крисом Лехейном, директором по связям с общественностью OpenAI.
Отвечая на вопрос Politico о беспокойстве Коксона по поводу вышедшего из-под контроля ИИ, Ньюсом заявил: «Опасения, высказанные в недавних инцидентах, подтверждают то, что Калифорния давно осознает: искусственный интеллект обладает огромным потенциалом, но он должен разрабатываться и внедряться с использованием значимых мер безопасности для защиты общества». По словам Ньюсома, федеральное правительство должно «выступить с надежным национальным регулированием, соответствующим неотложности момента».
Законопроект SB 813, внесенный сенатором штата Джерри МакНерни, учреждает Калифорнийскую комиссию по стандартам и безопасности искусственного интеллекта. Комиссия будет отвечать за разработку набора добровольных стандартов безопасности ИИ.
Тем временем, законопроект AB 1405, внесенный членом Ассамблеи Ребеккой Бауэр-Кан, создает реестр аудиторов рисков ИИ — систему проверки квалификации аудиторов.
Стоит отметить, что в заявлении Лехейна из OpenAI также говорится, что компания «будет выступать за совместимые международные подходы к измерению возможностей, управлению рисками, сохранению человеческого контроля и определению того, когда и как следует замедлить или остановить разработку, даже если это означает замедление прогресса в развитии моделей».
В своем заявлении для Politico Anthropic ссылается на свой опыт в создании мер безопасности. Компания утверждает: «Именно поэтому мы считаем, что мир выиграет от того, что индустрия примет законный, проверяемый способ совместной работы над темпом выпуска мощных моделей».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
