В последнем выпуске подкаста TechCrunch Equity Кирстен Коросек, Шон О’Кейн и я обсуждали, насколько серьезно руководители, такие как Амодеи и генеральный директор OpenAI Сэм Альтман, настроены на замедление темпов развития.
Хотя меня удивило, сколько отраслевых лидеров, казалось, поддержали план Амодеи, Шон отметил, что в плане не хватало деталей.
А когда Кристен спросила, могут ли существующее регулирование и механизмы свободного рынка сами по себе обеспечить достаточные гарантии, Шон ответил: «У нас сейчас есть федеральное правительство, которое, конечно, не проявляет особого желания широко применять нормативные акты, не говоря уже о конкретных случаях здесь».
Кроме того, по его словам, «похоже, нет большого выбора потребителей, который бы определял этот рынок, в том смысле, что, если одна из этих компаний сделает что-то действительно плохое, это отразится на количестве отмен или чем-то подобном».
Читайте дальше, чтобы узнать о нашем разговоре, отредактированном для краткости и ясности.
Энтони Ха: Шон, что ты думаешь? Мы действительно собираемся «установить темп развития»?
Шон О’Кейн: Почему-то это звучит как что-то из «На гребне волны». Это очень калифорнийское заявление, вроде: «Мы установим темп развития, чувак».
Не знаю. На прошлой неделе я говорил в этой программе, что не думаю, что мы движемся к замедлению каких-либо темпов, в основном потому, что я не думаю, что эти компании структурированы таким образом, чтобы это работало.
Так что это было довольно немедленное изменение того, что я сказал неделю назад, услышать это от Дарио из Anthropic и Сэма из OpenAI и даже Илона Маска в некоторой степени — и мы можем обсудить, верим мы этому или нет. Я скажу, что я не думаю, что я был полностью неправ, потому что даже с этими общими планами, которые Дарио изложил в блоге, и которые обсуждали другие лидеры, я чувствую, что нам все еще не хватает многих деталей, не только в отношении некоторых утверждений о том, почему эти люди считают, что существуют опасности и риски, но и в отношении того, что они подразумевают под замедлением.
Энтони, я знаю, ты внимательно читал это на выходных, когда все это происходило, поэтому мне интересно, возможно, ты более снисходителен, чем я, в понимании того, что они пытаются сказать.
Энтони: Я тоже задаюсь вопросами. Меня действительно поразило то, что так много людей в отрасли, казалось, довольно быстро сплотились вокруг этого. Еще до того, как Амодеи опубликовал свой пост в блоге, я видел, как другие люди публиковали какую-то версию этого [плана] за несколько дней до этого.
Насколько я понимаю, эти предложения, исходящие из сообщества по безопасности ИИ, — это вещи, которые зрели некоторое время. Это не то, что [Амодеи] придумал сам. Но казалось, что многие люди были готовы принять это, и в некотором смысле, [это] обнадеживает видеть, что существует консенсус. Но это также заставляет меня немного скептически относиться к тому, что это будет представлять собой подлинные, значительные шаги к замедлению.
Кирстен Коросек: Во-первых, консенсус может быть хорошей вещью. Также это может быть началом формирования картеля. И давайте будем ясны [относительно того], о ком мы говорим. Мы говорим о передовых ИИ-лабораториях. И это конкретно и важно.
Вы сказали минуту назад, что детали не совсем ясны, но мы знаем, что общая идея заключается в том, что независимые сторонние оценщики будут работать внутри [компаний], таких как Anthropic или OpenAI, и отслеживать практики и инциденты, связанные с безопасностью ИИ. Но вокруг этого много неопределенности.
Затем есть еще одно предложение о том, чтобы крупные ИИ-компании в демократических странах координировали стандарты и ограничения безопасности. И затем этот элемент международного сотрудничества. Таковы общие идеи.
Я также добавлю, что было очень значительное противодействие со стороны очень конкретных людей. И, на удивление, некоторые люди, от которых я не ожидал такого сопротивления. Очевидным, я думаю, будет генеральный директор Nvidia Дженсен Хуанг, у которого были довольно резкие слова. Я не знаю, что вы думаете […] о некоторых из его комментариев и звонке, который он принял от президента Трампа на сцене [на саммите All-In]
Шон: Я думаю, Дженсен понимает, что в некоторой степени его считают «взрослым в комнате». Что интересно, потому что это динамика, которая, я думаю, изменилась. Если бы вы спросили людей год, почти два года назад, кто играл эту роль, когда эти ИИ-компании действительно начали набирать обороты, я думаю, многие указали бы на Microsoft и Сатью Наделлу, и я чувствую, что Microsoft — по ряду причин, которые нам не нужно сейчас обсуждать — потеряла контроль над ролью «взрослого в комнате». Безусловно, отчасти потому, что Надела сказал, что собирается заставить Google танцевать, а потом этого не произошло. И на самом деле, во многих отношениях произошло обратное.
Я думаю, Дженсен понимает не только то, что ему нужно угодить как можно большему количеству людей, и поэтому он хочет сказать самое взвешенное слово, но он также является одним из самых полезных связующих звеньев между этой областью и этой администрацией, до такой степени, что он получает звонок от президента, пока он находится на сцене на этой очень хорошо посещаемой и высокопрофильной конференции, которая позволила им обоим отреагировать на весь этот беспорядок.
Кирстен: [К] вашему замечанию о том, что он «взрослый в комнате» и связующее звено, он находится в положении, когда он может это сделать. Но, по моему мнению, я бы сказала, что [его появление], которое действительно казалось немного срежиссированным, зашло слишком далеко и действительно подчеркнуло тот факт, что Nvidia получает огромную выгоду от того, что ИИ движется вперед бесконтрольно.
Мне не хочется быть циничной по этому поводу, но это была моя первоначальная реакция.
Энтони: Интересы Трампа и Хуанга совпадают, и [Хуанг] также говорит [Трампу] то, что он хочет услышать.
Я действительно думаю, что некоторые вещи, на которых он конкретно сосредоточился, стоит немного разобрать. Во-первых, он говорил об идее: «Мы не будем замедляться». Интересно, что сама фраза «замедление» часто всплывает — но в то же время и Альтман, и Амодеи используют язык замедления, но слово, которое им больше нравится использовать, это «темп». Правильно?
И эти три предложения — те, которые вы только что описали, Кирстен — теоретически, они могут привести к замедлению, но они не говорят об этом явно. Они говорят: «Эй, мы принимаем некоторые базовые меры безопасности и просим кого-то присматривать за нами». Но ничто из этого само по себе не означает, что темпы должны замедлиться, по крайней мере, насколько я понимаю.
Кирстен: Итак, у меня вопрос к Шону. Нельзя ли утверждать, что в обществе свободного рынка у нас есть существующие правила, а также [в] конкурентной среде, где нет протекционизма, если компания выпустит что-то небезопасное, она больше не сможет быть жизнеспособной компанией? И есть регуляторы, которые сегодня могут преследовать эти компании? Или вы отвергаете эту идею?
Шон: В вакууме, или на рынке, который не искажен множеством различных внешних давлений, да, я думаю, в этом есть элемент. Но у нас сейчас есть федеральное правительство, которое, конечно, не проявляет особого желания широко применять нормативные акты, не говоря уже о конкретных случаях здесь.
И мы также находимся в этой странной ситуации, когда — я не знаю, как лучше это сформулировать, но похоже, что нет большого выбора потребителей, который бы определял этот рынок, в том смысле, что, если одна из этих компаний сделает что-то действительно плохое, это отразится на количестве отмен или чем-то подобном.
Особенно сейчас, когда они вышли на корпоративный рынок и зарабатывают гораздо больше денег, продавая свои услуги компаниям, естественно труднее проголосовать своими долларами. Корпорации не станут уходить от Codex [OpenAI] к Claude Code [Anthropic] только потому, что они принципиально не согласны с чем-то, что сделала OpenAI.
И к тому же, они получают столько инвестиционных денег, что им легче поглотить любые убытки, если они действительно столкнутся с ними. Так что, я думаю, это хорошая идея в теории, но я чувствую, что на практике ничего этого на самом деле не происходит.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anthony Ha
