Недавно стоимость стартапа RadixArk была оценена примерно в 400 миллионов долларов в рамках раунда финансирования под руководством Accel, по данным двух осведомленных источников. Это весьма внушительная сумма для компании, о которой было объявлено лишь в августе прошлого года. TechCrunch не смог подтвердить размер привлеченных средств.
Эта новость появилась на фоне того, что часть команды, ответственной за поддержку SGLang — инструмента, используемого такими компаниями, как xAI и Cursor для ускорения обучения моделей искусственного интеллекта, — перешла в недавно запущенный коммерческий стартап. RadixArk возник как SGLang в 2023 году в лаборатории сооснователя Databricks Иона Стоики в Калифорнийском университете в Беркли (UC Berkeley).
По словам источников, ранее стартап привлек ангельский капитал от инвесторов, включая генерального директора Intel Лип-Бу Тана.
Ин Сенг, ключевой разработчик SGLang и бывший инженер xAI, покинула ИИ-стартап Илона Маска, чтобы стать соучредителем и генеральным директором RadixArk, согласно объявлению в LinkedIn, которое она сделала в прошлом месяце. Ранее Сенг работала научным сотрудником в Databricks.
Инженеры RadixArk, представители Accel и Лип-Бу Тан не ответили на запросы о комментариях.
И SGLang, и RadixArk сосредоточены на оптимизации процессов инференса (вывода) — по сути, они позволяют моделям работать быстрее и эффективнее на одном и том же оборудовании. Наряду с обучением моделей, инференс составляет значительную часть серверных затрат, связанных с ИИ-сервисами. Следовательно, инструменты, оптимизирующие этот процесс, могут обеспечить огромную экономию практически немедленно.
RadixArk не одинок в переходе от проекта с открытым исходным кодом к хорошо финансируемому стартапу. vLLM, более зрелый проект по оптимизации инференса, также совершил этот скачок. Как сообщал Forbes в прошлом месяце, недавно созданная компания вела переговоры о привлечении более 160 миллионов долларов финансирования при оценке около 1 миллиарда долларов. Forbes сообщал об этом в прошлом месяце.
Три источника, знакомых с этой сделкой, сообщили TechCrunch, что Andreessen Horowitz возглавляет инвестиции в vLLM, хотя окончательные цифры этого вливания еще предстоит увидеть. Andreessen Horowitz отказалась от комментариев. Соучредитель vLLM Саймон Мо охарактеризовал информацию об этом раунде как «фактически неточную» в заявлении для TechCrunch, хотя и не уточнил, какие именно детали не соответствуют действительности.
Как и SGLang, vLLM был инкубирован в лаборатории Иона Стоики в UC Berkeley. Стоика, профессор UC Berkeley, является знаменитым соучредителем Databricks, а также ряда других стартапов.
Бриттани Уокер, генеральный партнер CRV, сообщила TechCrunch, что несколько крупных технологических компаний уже используют vLLM для своих рабочих нагрузок инференса, а SGLang также завоевал значительную популярность за последние шесть месяцев. Ее фирма не инвестировала ни в одну из этих компаний.
RadixArk продолжает развивать SGLang как движок для ИИ с открытым исходным кодом. Стартап также разрабатывает Miles — специализированный фреймворк, предназначенный для обучения с подкреплением, который позволяет компаниям обучать модели ИИ становиться умнее с течением времени.
Хотя большинство инструментов остаются бесплатными, RadixArk начала взимать плату за услуги хостинга, сообщил TechCrunch источник, знакомый с компанией.
Стартапы, предоставляющие инфраструктуру для инференса разработчикам, продемонстрировали всплеск финансирования в последние месяцы, что подчеркивает сохраняющуюся важность уровня вывода (inference layer) для ИИ. Как сообщила The Wall Street Journal во вторник, Baseten недавно привлекла 300 миллионов долларов при оценке в $5 миллиардов. Это последовало за аналогичным шагом конкурента Fireworks AI, который привлек $250 миллионов при оценке в 4 миллиарда долларов в октябре прошлого года.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Marina Temkin
