Ужесточение регулирования крупнейших поставщиков ИИ может стать реальностью после прошедших на этой неделе выборов.
Казалось, ничто не может остановить или даже замедлить надвигающуюся лавину ИИ, поскольку Anthropic, OpenAI и другие компании стремительно приближаются к созданию общего искусственного интеллекта (AGI), в то время как правительственные чиновники в основном оставались в стороне.
Но затем во вторник произошла «голубая волна» демократов, которая в одночасье изменила политический ландшафт и нарушила баланс влияния и власти в сфере ИИ.
Воодушевленные сейсмическим сдвигом власти, законодатели-демократы готовы возобновить заблокированные законодательные инициативы по ограничению передового ИИ, некоторые призывают к мораторию на строительство дата-центров для ИИ и даже к полному запрету искусственного сверхинтеллекта.
Одно из самых масштабных предложений по надзору за ИИ исходит от сенатора США Марии Канвелл из Вашингтона, которая в прошлом месяце представила комплексный набор руководящих принципов для обеспечения безопасности ИИ.
Шесть принципов этой структуры включают «четкие, поддающиеся принудительному исполнению» стандарты безопасности для разработки передового ИИ; «непрерывное» тестирование новейших моделей ИИ; «прозрачность и подотчетность» для индустрии ИИ; партнерство между частной индустрией ИИ и государственным сектором; защиту детей и работников; а также глобальное сотрудничество в вопросах установления и обеспечения соблюдения стандартов безопасности ИИ.
Среди конкретных предложений Канвелл — «усиленная проверка» систем ИИ, которые кажутся опасно мощными или способными к самосовершенствованию, наряду со «специализированными» стандартами для моделей с открытым исходным кодом, независимо проводимыми стресс-тестами для передовых систем ИИ, «всесторонними» аудитами разработчиков ИИ, юридической (и возможной уголовной) ответственностью для разработчиков, чьи модели причиняют вред, финансированием программ по замещению рабочих мест и «горячей линией» между США и Китаем для связи во время кризиса, связанного с ИИ.
«Для управления рисками, связанными с передовыми системами ИИ, нам нужны четкие стандарты безопасности, непрерывное тестирование и отчетность о серьезных сбоях», — заявила сенатор Канвелл в пресс-релизе, анонсирующем ее предложения. «Америка может лидировать в мире в области ИИ, создавая системы, которые не только более мощные, но и более безопасные и надежные».
Канвелл, которая вновь возглавит Комитет Сената по торговле после начала нового срока (она уже возглавляла комитет с 2021 по 2025 год), будет иметь прекрасную возможность выполнить свои обещания по регулированию и надзору за ИИ.
Крупные игроки в сфере ИИ, похоже, уже уловили суть. OpenAI только что объявила о новом «плане» своей политики строительства дата-центров для ИИ, обещая сократить энергопотребление и одновременно ограничить использование соглашений о неразглашении в отношении государственных должностных лиц. Я ожидаю, что мы увидим то же самое и от других ведущих поставщиков ИИ, поскольку они адаптируются к новой политической реальности в Вашингтоне.
Приведет ли новое руководство на Капитолийском холме к созданию более безопасного ИИ? Я понятия не имею, но считаю, что любая проверка власти крупнейших поставщиков ИИ лучше, чем (по сути) ничего. Думаю, это обнадеживает.
Больше новостей из мира ИИ на этой неделе
Промпт недели: Промпт «спросить перед действием»
ИИ-агенты любят сначала действовать, а потом задавать вопросы, что делает их а) очень мощными и б) тревожно непредсказуемыми. Простое указание «продолжать» или «действуй» для ChatGPT Work, Claude Cowork или Gemini Spark может привести к нежелательным сюрпризам, например, к тому, что ваш агент начнет самостоятельно отправлять электронные письма.
Вот промпт, который поможет гарантировать, что ИИ-агент не воспримет «продолжай» как ваше полное согласие. Промпт «спросить перед действием» предписывает ИИ проверять перед выполнением любых необратимых действий, таких как удаление файла, заключение контракта или заполнение формы. Он также указывает, что «продолжай» или «действуй» не являются достаточным подтверждением.
На этом всё!
Спасибо, что прочитали последний выпуск Prompt Mode.
Хотите больше на следующей неделе? Не забудьте подписаться, чтобы получать эту рассылку в свой почтовый ящик.
undefined
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ben Patterson
