Глава отдела стратегического развития OpenAI Дин У. Болл зашел так далеко, что утверждал, будто правительство США должно найти предлог для создания регуляторного страха, неопределенности и недоверия вокруг новых моделей, поскольку модели с открытым весом неизбежно сдерживают капитальные затраты со стороны передовых лабораторий.
Люди были в панике, а такие светила технологий, как Ян Лекун и Мартин Касадо, утверждали, что открытое программное обеспечение может ускорить инновации и сосуществовать с проприетарными проектами. Вскоре Болл отказался от своих заявлений о том, что регуляторные меры являются «лучшей стратегией» Белого дома и что модели с открытым весом неизбежно замедляют прогресс в технологии.
Однако Axios сообщает, что администрация Трампа рассматривает возможность запрета K3 и других передовых китайских моделей по требованию американских передовых лабораторий. Другой отчет Politico гласит, что Министерство торговли не предпримет таких шагов в ближайшее время.
Выгода для крупных компаний, занимающихся ИИ, очевидна: модели с открытым весом, работающие на независимой инфраструктуре или внутри крупных предприятий, предлагают более дешевый интеллект, чем модели ведущих классов от Anthropic или OpenAI. Если пользователи будут тратить больше вне закрытых лабораторий, это означает меньшую отдачу от их огромных инвестиций в обучение моделей.
Эта точка зрения выходит далеко за рамки OpenAI. «Сильные, передовые модели с открытым исходным кодом окажут давление на маржу и снизят цены передовых компаний», — сказал TechCrunch Брэден Хэнкок, соучредитель Snorkel AI и партнер по исследованиям в Laude Institute. «Это не обязательно означает, что объем использования ИИ немного снизится. Знаете, очевидно, наоборот».
Это не проблема для людей, не имеющих акций в Anthropic и OpenAI. ИИ все равно будет распространяться. Так какое же оправдание для правительства блокировать американцам покупку чего-либо на нашем якобы свободном рынке?
Опасения по поводу китайских моделей имеют несколько аспектов. Одна из них — защита данных США от китайского правительства; США запретили импорт современных китайских электромобилей из-за опасений по поводу сбора данных. Но эксперты склонны считать, что модели с открытым весом, работающие на серверах США, вряд ли утекут данные в Китай, хотя и не исключено, что такое может произойти.
Другая — что модели могут иметь скрытую предвзятость по отношению к КНР — но неясно, что это может означать, скажем, для задач кодирования.
Третья распространенная обеспокоенность заключается в том, что китайские модели не имеют защитных механизмов, которые предписало правительство США (через непрозрачный процесс), направленных на предотвращение использования ведущими американскими LLM для эксплуатации закрытых компьютерных систем или создания оружия. Однако эти же защитные механизмы могут сделать американские компании более уязвимыми: Дэвид Сакс, венчурный капиталист и советник Трампа, делится случаями, когда американские компании обращаются к китайским LLM для устранения пробелов в безопасности, когда американские передовые модели отказываются выполнять задачи.
Но наиболее значимым мотивом для ограничения моделей является страх, что Китай сможет обогнать США, если передовые лаборатории замедлятся.
Сэм Бресник, научный сотрудник Центра безопасности и развивающихся технологий Джорджтаунского университета, специализирующийся на Китае, говорит, что растущая важность ИИ для военных операций США дает США повод поддерживать дальнейшие инвестиции в ИИ в передовых лабораториях. Но весь вопрос, по его словам, неоднозначен.
«Почему правительство США должно быть направлено на защиту этих компаний от конкурентов, которые исключены с американского рынка по причине своего происхождения?» — спрашивает Бресник.
Сторонники открытого ИИ утверждают, что передовые компании создают ложную дихотомию между инновациями и закрытыми моделями.
«Более значимое влияние появления этих моделей с открытым исходным кодом из Китая заключается не в том, что они проникают через бэкдоры, а в том, что они владеют инновациями», — сказал Хэнкок TechCrunch. «В итоге у вас фактически расширяется рабочая сила над вашей моделью. PyTorch стал отраслевым стандартом, потому что он был с открытым исходным кодом, и поэтому все сообщество могло вносить в него вклад, а не только одна компания, и он рос и рос, а все остальные библиотеки глубокого обучения по сравнению с ним фактически умерли».
Хэнкок и другие сторонники опасаются, что китайские LLM станут центром международных исследований. Уже сейчас американские программы для выпускников в основном строятся на китайских моделях с открытым весом, и Хэнкок говорит, что половина изучаемых студентами статей поступает из китайских институтов, а американские передовые лаборатории все чаще неохотно делятся своей работой.
«Ограничение открытых моделей не сделает ИИ безопаснее», — сказал Клем Деланж, генеральный директор Hugging Face, платформы для открытого сотрудничества в области ИИ. «Это просто скроет риски, сконцентрирует власть в руках немногих и затруднит участие следующего поколения строителей, исследователей, академиков, некоммерческих организаций, правительств в обеспечении безопасности и большей пользы ИИ для всех».
Бресник говорит, что реальный способ замедлить Китай — это больше сосредоточиться на контроле экспорта чипов. Лучший способ сохранить лидерство США в области ИИ — это прекратить продавать процессоры Nvidia H200 Китаю. «Это, — говорит он, — могло бы избавить нас от этого тернистого спора о запрете технологий с открытым исходным кодом, которые хотят использовать огромное количество американских компаний».
Часть проблемы заключается в неопределенности вокруг экономики ИИ. «Открытая бизнес-модель, проприетарная бизнес-модель — ни одна из них не определена. Компании, занимающиеся ИИ, изо всех сил пытаются понять, как заработать на своих инструментах, особенно когда затраты на обучение растут и растут», — отмечает Бресник.
Те же проблемы, которые возникают в США, возникают и в Китае, где компании, занимающиеся ИИ, также борются за получение дохода и доступ к вычислительным мощностям, а правительство, как представляется, по политическим причинам поощряет открытые релизы, несмотря на трудности с их монетизацией.
Некоторые американские компании, включая Thinking Machines Lab и Nvidia, пытаются построить бизнес на выпуске открытых моделей. Хэнкок отмечает, что Nvidia выиграла бы больше, «если бы десятки или сотни компаний создавали ИИ, а не две или три, достаточно хорошо капитализированные, чтобы производить собственные чипы», что является одной из причин ее инвестиций в Nemotron, коллекцию открытых моделей.
«Главное, что США было бы очень выгодно иметь свои собственные очень способные, гораздо более дешевые открытые модели», — сказал Бресник. «Это просто противоречит подходу, который выбрали передовые лаборатории».
Дополнительный репортаж Ребекки Белан.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
