В среду вечером Ramp запустил собственный сервис маршрутизации ИИ-моделей, названный Router, который позволяет пользователям и компаниям использовать и переключаться между различными большими языковыми моделями через API. Компания утверждает, что использовала созданный ею маршрутизатор для собственных нужд в области ИИ на протяжении последних трех лет.
Сервис доступен только в США. Он бесплатен для использования до конца 2026 года (пользователям по-прежнему придется платить за затраты на вывод ИИ-моделей) и сопровождается запусковым предложением с кредитом в 26 долларов. Компания не сообщила, сколько будет стоить сервис в следующем году.
Router функционирует аналогично тому, как работает OpenRouter, хотя последний предлагает гораздо больше вариантов ИИ-моделей, чем текущие предложения Ramp.
Router предоставляет доступ к моделям от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Он также предлагает несколько «стратегий», чтобы помочь клиентам маршрутизировать запросы ИИ к моделям в соответствии с их предпочтениями. Например, одна из них позволяет пользователям задавать предпочтение для гибких тарифных уровней поставщиков моделей, а другая — Router выбирать модель для маршрутизации запросов на основе до трех указанных пользователем бенчмарков. Пользователи также могут направлять только сложные задачи на дорогие модели или легко тестировать модели без необходимости переключения.
Пользователи также получают дашборд, который позволяет видеть расход токенов, стоимость, задержку, попытки обратного переключения и другие детали.
Примечательно, что Router имеет политику хранения данных с возможностью отказа: по умолчанию он будет записывать входные данные, выходные данные и вызовы инструментов в течение одного года, хотя компания заявляет, что будет удалять «личную информацию перед использованием этого контента для улучшения продукта».
Для Ramp выход на рынок маршрутизации моделей открывает двойную возможность: он получает доступ к быстрорастущему рынку вывода ИИ и предлагает своим существующим клиентам сервис маршрутизации моделей, который хорошо вписывается в его существующие продукты, включающие мониторинг использования токенов ИИ и управление расходами на токены.
И если Router окажется столь же привлекательной ареной для тестирования моделей, как OpenRouter, Ramp также сможет наладить долгосрочные отношения с ИИ-лабораториями и поставщиками выводов по всему миру. Это может помочь Ramp, который привлек 750 миллионов долларов при оценке в 44 миллиарда долларов в июне, получить новых клиентов и новую точку входа для продажи своих продуктов управления расходами.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ram Iyer
