В последнем выпуске подкаста TechCrunch’s Equity Шон О’Кейн, Ребекка Беллан и я обсудили, что на самом деле послужило причиной действий администрации в отношении Anthropic, и что это может означать для более широкой экосистемы ИИ.
Как выразился Шон: «У Anthropic не было лучших отношений с администрацией Трампа, в отличие от других ведущих лабораторий ИИ», так что, возможно, другим конкурентам Anthropic не стоит беспокоиться о подобных репрессиях.
Но Ребекка также отметила, что ведущие эксперты по кибербезопасности «подписали открытое письмо с призывом к Трампу отменить приказ, и они утверждают, что на самом деле опасно лишать защитников сетей в США этих передовых возможностей кибербезопасности».
И мы задались вопросом, не обернется ли это хорошей рекламой для Anthropic, особенно учитывая, что, по словам Ребекки, «все любят плохого парня».
Продолжайте чтение, чтобы ознакомиться с отрывком из нашей беседы, отредактированным для краткости и ясности.
Ребекка Беллан: Как, я уверена, знают многие наши слушатели, правительство США фактически заставило Anthropic отключить две свои новейшие модели — Fable 5, а также Mythos 5, которая была доступна текущим пользователям Mythos, в то время как Fable 5 была более доступна широкой публике.
В прошлую пятницу они отправили письмо, ссылаясь на «проблемы национальной безопасности». Никто не знает, в чем заключаются эти проблемы. Этот отчет не был обнародован, они не предоставили никаких подробностей и сообщили [Anthropic], что они должны гарантировать, что эти модели не могут использоваться никакими иностранными гражданами. Поэтому Anthropic ответили: «Хорошо, я полагаю, нам придется полностью отключить модели, потому что мы не знаем, когда кто-то является иностранным гражданином. Многие из наших собственных сотрудников — иностранцы».
Но на самом деле, [сообщалось], что Белый дом получил наводку об этом от некоторых исследователей Amazon, которые якобы нашли способ обойти защитные механизмы Fable 5. Генеральный директор Amazon Энди Джесси поднял эти вопросы перед Белым домом, и с тех пор ситуация только обострялась.
Шон О’Кейн: Все это произошло очень быстро, особенно с вечера пятницы на выходные. И это происходит в то время, когда администрация, казалось бы, пыталась договориться о каком-то договоре по войне, которую она начала в Иране.
Ребекка: Вечер пятницы для нас в Нью-Йорке. Они любят отвлекающие маневры.
Шон: Давайте на мгновение отвлечемся. У Anthropic не было лучших отношений с администрацией Трампа, в отличие от других ведущих лабораторий ИИ — я думаю, что элемент этого, по крайней мере, играет свою роль.
Как вы думаете, будут ли у этого последствия для других компаний? Как вы думаете, администрация Трампа будет менее склонна «перекрыть кран» одному из этих конкурентов?
Энтони Ха: Часть контекста заключается в том, что как сообщения в прессе, так и анализ независимых экспертов по безопасности предполагают, что реальный риск безопасности от Anthropic не является чем-то уникальным. Так что большая часть этого, похоже, проистекает из того, что некоторые представители администрации Трампа и Anthropic просто [не могут] поладить друг с другом. Какими бы ни были риски, они раздуются до непропорциональных размеров просто потому, что, похоже, они не могут провести вежливый телефонный разговор друг с другом.
Если вы представляете другую компанию — с одной стороны, это может быть для вас выгодно, потому что вы можете сказать: «Ну, мы просто не злим этих парней, и можем делать то, что хотим». Но это также не лучшая регуляторная среда, чтобы просто [сказать]: «Черт, надеюсь, они не разозлятся на нас».
Ребекка: С одной стороны, это определенно кажется ответной мерой — после того, как правительство назвало Anthropic риском для цепочки поставок, между ними идет крупный судебный процесс, действительно кажется, что Белый дом ищет любой предлог, чтобы нанести удар по Anthropic. И я так думаю не только потому, что это была моя первая реакция, но и из-за того, что сказали многие исследователи кибербезопасности. Они говорят, что это никогда не должно было повлечь за собой приказ об экспортном контроле. Они все подписали открытое письмо с призывом к Трампу отменить приказ и утверждают, что на самом деле опасно лишать защитников сетей в США этих передовых возможностей кибербезопасности. Сама Anthropic заявляла, что некоторые из тех же методов обхода ограничений могли быть найдены и в нескольких других моделях ИИ.
Цинично говоря: хорошо, вы просто приостанавливаете Anthropic, чтобы другие могли догнать то, чего достигла Anthropic?
Но в то же время я видела и другие реакции, в которых говорится: Anthropic сами виноваты. Они говорят: «Это слишком опасно для кого-либо, кроме нас, мы хорошие парни». Они говорят одно и то же, но противоположное. За неделю до выхода Fable они говорили: «Эй, нам нужно замедлить развитие ИИ, ребята. Это становится очень опасно». Но затем бум: «Вот наша самая безумная, супермощная модель, держите».
Энтони: В некотором смысле это похоже на микрокосм многих дискуссий вокруг ИИ, когда такие люди, как Сэм Альтман и Дженсен Хуанг, говорят: «Эй, давайте постараемся снизить накал. Почему все злятся на нас?» Ну, последние пару лет вы, по сути, заявляли, что создали эту божественную машину, которая отнимет у всех работу. Неудивительно, что люди не в восторге от этого.
И есть что-то в том, как Anthropic говорит о Mythos, в частности, где они заявляют: «Это самая невероятно мощная модель из когда-либо созданных, она слишком опасна для выпуска в массы». И поэтому на каком-то уровне вы говорите: «Хорошо, давайте примем это всерьез. Это означает, что вокруг нее будет невероятный уровень пристального внимания».
И мне интересно — похоже, Anthropic этим недовольна. Я хочу быть осторожным, чтобы не преувеличивать, насколько это может быть для них выгодно. Но мы также публиковали материалы об анализе Ramp, чтобы подчеркнуть тот факт, что последний крупный конфликт между Anthropic и администрацией Трампа в некотором роде пошел компании на пользу, по крайней мере, в чем-то. Загрузки Claude резко возросли. Я думаю, многие люди, которые, возможно, считали ChatGPT тем самым чат-ботом, тем самым ИИ-помощником до этого, внезапно стали рассматривать Claude как, возможно, более ответственный, более «оппозиционный» вариант.
И точно так же, хотя Anthropic очень обеспокоена этим, это снова может заставить их модели казаться еще более мощными.
Ребекка: Определенно. «Мы такие опасные». Все любят плохого парня, верно? Все говорят: «Это самая мощная модель, даже Трамп так говорит. Конечно, я должен заполучить ее».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anthony Ha
