В новостях об ИИ от Трампа президент США высказался за ускоренное развитие ИИ с меньшим количеством ограничений, в то время как несколько человек, участвующих в разработке передовых систем, призвали к более строгим мерам безопасности. Этот контраст проявился в недавних заявлениях президента, который назвал опасения по поводу безопасности ИИ мистификацией.
Трамп сделал эти заявления в постах в социальных сетях, о чем сообщила BBC. Они последовали за комментариями Джека Кларка, соучредителя Anthropic, который заявил, что механизм отключения опасного ИИ, который может быть проверен третьей стороной, в конечном итоге может стать обязательным для всей отрасли.
Новости об ИИ от Трампа: президент сравнивает предупреждения о безопасности ИИ с предупреждениями об изменении климата
Заявления Трампа прозвучали на фоне предупреждений руководителей и сотрудников ведущих ИИ-компаний о потенциальных рисках, связанных с этой технологией. BBC сообщила, что эти опасения способствовали распродаже акций некоторых технологических компаний, поскольку инвесторы взвешивали возможное влияние замедления развития ИИ.
В своих постах Трамп сравнил дебаты о безопасности ИИ со своей критикой предупреждений об изменении климата и представил себя как противника того, что он называет мистификациями.
Он также утверждал, что ИИ нуждается в сильном и умном президенте, а не в дополнительных ограничениях. Это политический аргумент о том, как Соединенные Штаты должны подходить к развитию ИИ, а не свидетельство новой обязательной политики.
Microsoft AI в тот же день заняла иной подход, опубликовав документ с изложением того, что она называет гуманистическим ИИ. Ее генеральный директор Мустафа Сулейман заявил CNBC, что компания разрабатывала это руководство в течение нескольких месяцев и опубликовала его на фоне текущих дебатов по поводу технологии. Этот шаг поставил еще одну крупную компанию в центр обсуждения того, как должны разрабатываться и ограничиваться передовые модели.
Дебаты об ИИ Трампа: добровольные ограничения, а не обязательный режим
Развивающаяся ситуация с безопасностью ИИ характеризуется различными практиками компаний и призывами к регулированию, а не единой системой принуждения.
Кларк подчеркнул необходимость независимого механизма отключения опасных систем ИИ, предполагая, что законодатели могут обязать принять такие меры.
Дарио Амодеи из Anthropic выступает за замедление разработки и мониторинга ИИ, обеспечивая при этом сохранение конкурентных преимуществ фирмами. Сэм Альтман из OpenAI и Илон Маск из xAI поддерживают аналогичное замедление темпов развития в отрасли и независимый надзор.
Однако, несмотря на согласие по принципам, общей системы принуждения не существует. Практики безопасности OpenAI подчеркивают разницу между внутренними рамками и внешним регулированием, поскольку они не будут выпускать модели, превышающие порог среднего риска, без достаточных мер вмешательства.
Что на самом деле потребовал бы «выключатель ИИ»?
Предложение Кларка более конкретно, чем общий призыв отключить систему при возникновении опасений. Он описал способ полного отключения программного обеспечения ИИ, если оно станет слишком опасным, с возможностью проверки третьей стороной. Независимый элемент важен, поскольку внутренняя возможность отключения остается под контролем компании, управляющей моделью.
В отчете не излагается техническая схема существующих механизмов отключения в отдельных лабораториях, как они будут независимо проверяться или как будет реализовано общее требование. Взгляд Кларка на то, что законодатели могут потребовать внедрения такой возможности, подчеркивает, что имеющиеся данные не предоставляют общеотраслевого обязательного стандарта.
Независимый мониторинг также является предложением, а не единой операционной системой, общей для всей отрасли. Руководители лабораторий поддержали эту концепцию, но имеющиеся отчеты не указывают на единый общий механизм, принятый всеми передовыми разработчиками.
ИИ-войны США против Китая: политический выбор, стоящий перед политикой в области ИИ
Трамп рассматривает ИИ как соревнование, в котором быстрое развитие является ключом к национальному преимуществу. Напротив, китайские государственные СМИ утверждают, что опасения США по поводу прогресса Китая в области ИИ могут исказить его политические приоритеты. Эксперты, такие как Синь Цян из Университета Фудань, предполагают, что американские официальные лица опасаются, что замедление темпов позволит Китаю догнать.
Эта ситуация подчеркивает напряженность вокруг добровольных ограничений на развитие ИИ. В то время как заинтересованные стороны могут согласиться с необходимостью мер безопасности, существует опасение, что такие ограничения могут принести пользу конкурентам, которые не придерживаются тех же правил.
Текущие данные указывают на столкновение стимулов, а не на четкий консенсус. Трамп отверг необходимость более строгих правил, и хотя некоторые лидеры предлагают меры по замедлению разработки и усилению мониторинга, они остаются добровольными и непроверенными.
Основной вопрос политики заключается в том, станут ли добровольные меры обязательными правилами, особенно учитывая, что меры безопасности могут повлиять на коммерческие интересы и скорость разработки.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cryptonews
