Новая функция под названием Box Content Retrieval позволяет агентам гораздо эффективнее отвечать на запросы, полагаясь на встроенные метаданные, созданные Nemotron.
Box заявляет, что для пользователей это означает более быстрые, точные и дешевые запросы. Вице-президент Nvidia по программному обеспечению для генеративного ИИ Кари Бриски сообщила TechCrunch, что ожидает, что запросы будут обрабатываться в четыре раза быстрее, с уменьшением ошибок на 20% и использованием на 90% меньше токенов.
Система будет доступна всем клиентам Box уровня Enterprise Advance и начнет развертываться в начале следующего года.
«Это значительно повышает релевантность нашей поисковой технологии для агентов», — сказал генеральный директор Box Аарон Леви. «Вместо того чтобы агент должен был просматривать каждый документ, мы можем возвращать фрагменты из документов, наиболее релевантные запросу пользователя или задаче, которую выполняет агент».
Эта функция является реализацией проекта Nvidia’s Nemotron Embed, который предлагает модели встраивания с открытыми весами для улучшения автоматизированных систем поиска. Крупные лаборатории часто упускали из виду такие модели, которые используют LLM для предварительной обработки данных, чтобы агенты могли лучше их использовать. Этот сектор стал фокусом проекта Nvidia по разработке моделей с открытым исходным кодом, а недавний выпуск Nemotron в июле возглавил эталон RTEB, который измеряет качество поиска.
По словам Box, система будет наиболее полезна в сочетании с активными агентами, приводя в пример юристов, которые, предположительно, смогут легче находить соответствующие пункты и прецеденты в новой системе. Поскольку встраивания Nemotron выходят за рамки простых ключевых слов, отображая основные концепции, инструмент поиска может находить связанные юридические темы, даже если используются разные формулировки или язык.
Хотя модели Nemotron доступны бесплатно, система также в значительной степени опирается на существующие метаданные и элементы управления разрешениями Box, что затруднит ее воссоздание с нуля. «Мы, вероятно, объединяем пять различных технологий в один простой API», — сказал Леви TechCrunch.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
