Ant Digital Technologies, подразделение Ant Group, занимающееся корпоративными технологиями, выпустило LingDT-Decision-1.0 — модель, предназначенную для структурированных бизнес-решений, а не для генерации текстов в свободной форме. Модель доступна в версиях с 4 миллиардами и 27 миллиардами параметров и размещена на платформе DTMaaS компании, где разработчики могут опробовать ее бесплатно в течение ограниченного времени.
Идея заключается в том, чтобы выделить распространенный класс задач из универсальных больших языковых моделей. Многие корпоративные задачи представляют собой серию выборов из известных вариантов. Ant Digital Technologies приводит пример службы поддержки клиентов: сообщение с жалобой на то, что заказ не был отправлен в течение трех дней, требует от системы решения, является ли это запросом на возврат средств, повторную отправку или жалобу, насколько оно срочное, какой отдел должен им заниматься и нужно ли привлекать человека.
Обычная большая языковая модель обычно рассуждает токен за токеном, генерирует текст, а затем этот текст анализируется для принятия решения. Компания утверждает, что эта цепочка длинная, дорогая и чаще приводит к ошибкам. Модель принятия решений предназначена для прямой оценки в рамках определенного набора вариантов. Это делает ее подходящей для высокочастотных шагов в рабочих процессах агентов, таких как определение намерений, выбор инструмента, классификация правил и оценка.
Согласно тестам Ant Digital Technologies в сценариях обслуживания клиентов, контроля рисков и финансовых операциях, LingDT-Decision-1.0 сократила потребление токенов более чем на 90% по сравнению с большими языковыми моделями при выполнении тех же задач, отвечала до 10 раз быстрее и показала лучшие результаты. Помимо суждений «да/нет», одиночного выбора, классификации и рейтинга, компания заявляет, что модель является первой, поддерживающей нативные множественные и последовательные решения, организованные в виде ориентированного ациклического графа (DAG), что соответствует многоэтапным бизнес-процессам.
По данным компании, на 23 общедоступных бенчмарках LingDT-Decision-1.0 превзошла другие модели принятия решений, включая Microsoft-Decision-1 и Jev 1.13, а версия с 27 миллиардами параметров достигла самой высокой точности среди моделей своего размера. Эти результаты являются собственными данными компании и не были независимо проверены.
Выпуск не заменяет универсальные большие языковые модели. Модель предназначена для работы вместе с ними, обрабатывая множество мелких, повторяющихся суждений в корпоративном агенте, чтобы более крупные модели могли сосредоточиться на рассуждениях и генерации в свободной форме. Для команд, создающих агентов в масштабе, такое разделение может существенно повлиять на затраты и задержку.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
