Опасение заключается в том, что по мере того, как стартапы и предприятия используют ИИ-модели от таких лабораторий, как OpenAI и Anthropic, эти лаборатории получают всё более широкий доступ к самой конфиденциальной деловой информации компаний. Создатели моделей затем могут использовать эти знания в своих интересах, потенциально становясь конкурентами собственным клиентам. Такие предупреждения звучат от венчурных инвесторов, вроде Джейсона Калаканиса, до генерального директора Palantir Алекса Карпа.
Теперь, в неожиданной записи в блоге, опубликованной в понедельник, к этому хору присоединился генеральный директор Microsoft Сатья Наделла. Наделла предупреждает, что пользователи ИИ («покупатели», как он их называет) платят дважды. Они осознанно тратят деньги на использование токенов ИИ, но также, не замечая этого, передают ценные данные в процессе.
«Вы по сути платите за интеллект дважды: один раз деньгами, а второй — чем-то ещё более ценным: проприетарными знаниями, которые вы должны раскрыть, чтобы этот интеллект стал полезным. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вы должны ей скормить!» — пишет он.
Самое опасное, утверждает он, — предприятия буквально обучают модели нюансам своего бизнеса.
«Модели учатся на „выхлопе“: на подсказках, которые пишут люди, на инструментах, которые используют агенты, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление превращается в институциональное ноу-хау», — пишет он.
Это «те знания, которые конкурент никогда не смог бы купить», и тем не менее предприятия их передают.
Наделла утверждает, что если компании, занимающиеся ИИ, могут свободно собирать данные из интернета для обучения своих моделей, то справедливо, чтобы предприятия в ответ могли изучать — или «дистиллировать» — эти модели. «Дистилляция» — это практика использования собственных выходных данных модели для изучения того, как она работает, и обучения на основе этих идей новой, часто более дешёвой модели. В феврале Anthropic обвинила китайские модели с открытым исходным кодом в отправке миллионов подсказок Claude для улучшения собственных моделей и призвала правительство США ужесточить экспортный контроль.
Суть аргумента Наделлы в том, что создатели моделей не могут получить всё сразу. Лицемерно с их стороны свободно обучаться на мировых данных, одновременно ограничивая других в аналогичных действиях со своими моделями.
«Хотя великие инновации, возникающие благодаря праву создателей моделей на добросовестное использование для обучения на общедоступных данных, необходимы, я нахожу ироничным, что статус-кво затем оборачивается введением ограничительных условий на дистилляцию», — пишет генеральный директор Microsoft.
Наделла особенно обеспокоен, когда создатели моделей «оставляют за собой право учиться на данных об использовании и взаимодействии с клиентами».
Решение Наделлы — это то, что можно было бы ожидать от генерального директора крупного облачного провайдера. Он призывает компании «сохранять право собственности» на свои данные, включая подсказки, обратную связь и т. д. Поэтому он рекомендует им создавать собственные «проприетарные среды обучения» в облаке (где их данные, вероятно, уже хранятся и, что удобно, это может быть облако Microsoft — Azure). Он также предлагает компаниям встраивать то, что он называет «оркестровочными слоями» — по сути, способ легко переключаться между ИИ-моделями разных провайдеров, а не быть привязанными к одному. Инструменты вроде ИИ-«шлюзов», которые позволяют компаниям делать именно это, становятся всё более популярными.
Хотя Наделла ни разу не использует слово «open-source» как метод сохранения права собственности, это очевидный подтекст. Однако есть и другой подтекст.
Крупные компании, многие из которых всё ещё имеют собственные центры обработки данных в дополнение к использованию облака, уже переходят на модели с открытым исходным кодом, установленные на собственных мощностях («on-prem», на отраслевом жаргоне). Идит Левин, основатель и генеральный директор Solo.io — компании, создающей сетевое ПО и ПО безопасности, помогающее предприятиям управлять ИИ-системами, — говорит, что наблюдает именно этот сдвиг у своих клиентов. Поэкспериментировав с проприетарными создателями моделей, они начинают задаваться вопросом: «Могу ли я взять модель с открытым исходным кодом и запустить её on-prem? Она будет делать почти 90% того, что делает большая модель. Это будет стоить гораздо меньше», — рассказывает она TechCrunch. «Они это понимают и могут это контролировать».
Технология Solo.io в прошлом году была выбрана в качестве основы для проекта Agentgateway Фонда Linux. Её компания считает своими клиентами такие предприятия, как T-Mobile, ADP и SAP. Она видит, что компании всё чаще устанавливают on-prem модели с открытым исходным кодом, и считает это следующей большой волной в корпоративном использовании ИИ.
Она не одинока. Vercel — наиболее известная как платформа для создания и хостинга веб-сайтов, недавно добавившая инструменты для переключения ИИ-моделей, — и OpenRouter, компания, помогающая разработчикам маршрутизировать запросы между различными ИИ-моделями, — обе наблюдают всплеск трафика на модели с открытым исходным кодом. Фактически, открытые модели составили 29% всего трафика, маршрутизированного через шлюз Vercel в прошлом месяце.
Теперь, когда генеральный директор Microsoft — компании, инвестировавшей и в OpenAI, и в Anthropic, — открыто призывает предприятия с осторожностью относиться к использованию проприетарных моделей, мы готовы поспорить, что эта тенденция будет усиливаться. «Потребляя интеллект, вы создаёте интеллект. И то, что вы создаёте, должно принадлежать вам», — пишет Наделла.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Julie Bort
