В последние недели ведущие лаборатории призывают к замедлению развития ИИ. Наиболее драматично генеральный директор Anthropic Дарио Амодеи написал эссе объемом почти 4000 слов, в котором изложил аргументы в пользу замедления разработки ИИ, чтобы можно было внедрить адекватные меры безопасности. Этот план включает, среди прочего, международную стратегию сотрудничества между компаниями и правительствами по безопасному развертыванию. Руководители конкурирующих ИИ-компаний, такие как Сэм Альтман из OpenAI и Илон Маск из xAI, поддержали план Амодеи.
Эссе вызвало дальнейшее обсуждение в технологической индустрии, хотя не все согласились с призывом Амодеи к глобально скоординированным действиям. Действительно, многие, похоже, считают, что государственное регулирование не обязательно должно играть какую-либо роль.
Среди последних участников этой дискуссии — генеральный директор *Meta Марк Цукерберг, который на этой неделе в X поделился своими мыслями по этому поводу.
«Я считаю, что доверие и согласованность быстро становятся важнейшими возможностями, которые будут отличать агентов и модели», — заявил Цукерберг. Он сообщил, что его компания отложила выпуск своей ИИ-модели из-за опасений по поводу безопасности. «*Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защищенности, — сказал Цукерберг. — Мы не призывали всех остальных сделать это до нас. Мы просто сделали это в рамках нашей повседневной работы, потому что это было явно правильным решением для людей и для нас».
Цукерберг, который поддержал части плана Амодеи, похоже, подразумевает, что государственное вмешательство не требуется, и что естественные стимулы, формирующие отрасль, заставят компании правильно обеспечить безопасность. Рынок в конечном итоге принесет успех компаниям, которые позаботятся о создании моделей, не вызывающих хаос. Это, по-видимому, соответствует собственному обширному эссе Цукерберга, написанному в прошлом месяце, в котором он выступал за ограниченное сотрудничество с правительством, когда это необходимо, но в основном подчеркивал американскую конкурентоспособность как ключ к процветающему технологическому будущему.
В целом, похоже, это позиция многих других руководителей технологических компаний.
Еще один высокопоставленный руководитель, высказавшийся по этому поводу, — соучредитель Reddit Алексис Оганян, который в среду заявил CNBC, что, по его мнению, технологическая индустрия была в значительной степени «глуха» в плане объяснения рисков ИИ общественности. Однако, как и Цукерберг, Оганян также выразил надежду, что компании смогут разобраться во всем самостоятельно. Шейн Легг, соучредитель Google DeepMind, также поделился своими мыслями. «Мы живем в период, когда возможности развиваются очень, очень быстро, — сказал Легг. — Но мы не можем допустить, чтобы возможности опережали безопасность». Он добавил: «Нам нужно действительно проработать детали этого и то, как это будет работать на практике».
Несмотря на призывы крупных лабораторий к государственно-частному сотрудничеству, некоторые из сторонников регулирования, похоже, также вполне довольны тем, что бизнесу позволено писать собственные правила. Действительно, менее заметной, но не менее интересной новостью на этой неделе стал отчет The Information, в котором говорилось, что OpenAI, Anthropic и другие крупные ИИ-компании ведут совместную работу над созданием организации по стандартизации ИИ — описанной одним из изданий как частный «орган саморегулирования».
Ранее обсуждалось создание аналогичной организации, управляемой федеральным правительством. Однако администрация Трампа, в которую входят активные сторонники ИИ и которая в основном выступает за нерегулируемый технологический бизнес (администрация даже пыталась принудительно остановить правительства штатов от введения собственных законов об ИИ), ничего подобного не предприняла. «ИИ-царь» администрации, ветеран технологий Дэвид Сакс, заявил, что регулирование ИИ должно оставаться за компаниями, которые его разрабатывают.
Как и Белый дом, видные члены Конгресса, похоже, одинаково не заинтересованы в том, чтобы принять предложение Амодеи о регулировании его компании. Вскоре после публикации эссе генерального директора Anthropic спикер Палаты представителей Майк Джонсон так прокомментировал опасения по поводу катастрофического развития ИИ: «Вы не умрете через 10 лет», — сказал он.
Частная организация сохранила бы отрасль нерегулируемой, кроме как добровольными обязательствами, и естественным образом предоставила бы определенную власть и влияние компаниям, ответственным за ее создание. Это приводит к другому текущему утверждению, согласно которому призывы индустрии к регулированию на самом деле являются стратегией «захвата регулятора». Согласно этому аргументу, влиятельные компании, уже занимающие видное положение в отрасли, могут использовать регуляторные уловки, чтобы вытеснить или поставить в невыгодное положение более мелкие, менее обеспеченные ресурсами компании, тем самым подавляя их конкуренцию. Это не обязательно включает фактическое регулирование, но может включать добровольные отраслевые стандарты, которые тем не менее оказывают давление на менее влиятельные фирмы.
Многие видные деятели китайского правительства поддержали эту позицию. После того как Амодеи на этой неделе призвал к «удержанию темпа развития на переднем крае», представитель Министерства иностранных дел Китая Го Цзякунь обвинил американцев в использовании «нагнетания страха» для срыва развития глобального управления ИИ, в то время как в редакционной статье государственной газеты Китая риторика Амодеи была названа прямо из «игровой книги времен холодной войны».
Реструктуризация способов ведения бизнеса с Китаем, к чему призывает Амодеи в своем эссе, может, естественно, стать возможностью для американских компаний склонить ситуацию в свою пользу. Амодеи даже признает, что это цель. «Если мы хорошо выполним эти меры, я считаю, что они замедлят прогресс Китая достаточно, чтобы значительно увеличить лидерство Америки в течение следующих 3–5 лет — периода, когда ИИ станет наиболее геополитически важным», — написал он в своем эссе.
Однако не только Китай видит, как крупные американские ИИ-лаборатории стремятся склонить игру в свою пользу. Эйдан Гомес, генеральный директор канадской ИИ-компании Cohere, недавно обвинил эти компании в создании «картеля», написав в своем блоге: «ИИ нуждается в мерах безопасности. Это не предмет спора и никогда не было им. Спор идет о том, кто их пишет, кто имеет право участвовать и чьи интересы защищают правила».
Как отмечает Гомес, область безопасности ИИ глубоко политизирована, и условия, по которым определяется безопасность — и кем — в конечном итоге помогут определить, кто получит преимущество, а кто останется позади на следующем этапе конкуренции в области ИИ.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
