Strands Decider 2B от Amazon, выпущенный на той же неделе, когда OpenAI анонсировала аналогичное предложение, представляет собой высокоскоростной и недорогой способ сортировки между заранее определенными вариантами с предоставлением оценки уверенности в выборе. Модель полностью открыта, доступна сейчас и достаточно мала для локального запуска.
Ведущий инженер Amazon Марк Брукер придумал этот проект, увидев Jev и попытавшись создать собственную версию такой модели. Домашний проект оказался достаточно успешным — он ненадолго занял первое место в рейтинге Jevbench для моделей своего размера — настолько, что инженеры Amazon доработали его и выпустили как предложение от своих Strands Labs, организации, разрабатывающей новые инструменты и протоколы для развертывания ИИ-агентов.
Брукер утверждает, что потребность в таком инструменте возникла в ходе бесед с клиентами AWS, чьи агентные рабочие процессы не всегда требовали возможностей или стоимости полнофункциональной LLM.
«Меня изначально заинтересовал этот класс моделей, потому что они идеально подходят для принятия решений на этапе рабочего процесса — «что мне делать дальше, исходя из того, где я нахожусь?» — рассказал Брукер TechCrunch. Он добавил, что это предлагает клиентам «этап рабочего процесса, который может быть структурирован более надежно благодаря оценкам уверенности, благодаря замкнутой области ответов, [и имеет] меньшую задержку, потенциально меньшую стоимость».
Как и другие модели принятия решений, Strands Decider построена на «торсе» LLM, в данном случае Qen3.5-2B, но вместо генерации текста она выдает откалиброванные варианты выбора. TypeSafe назвала свою модель Jev в честь экономиста Уильяма Стэнли Джевонса, надеясь вызвать его теорию о том, что падение стоимости чего-либо — например, компьютерного интеллекта — на самом деле может увеличить спрос на него.
Тот факт, что десятки аналогичных моделей были созданы исследователями с момента дебюта идеи TypeSafe, свидетельствует о широком интересе, но также поднимает вопрос об их ценности. Брукер предполагает, что задача будет заключаться в оптимизации быстрой работы модели при принятии решений без ущерба для ее интеллекта.
«Необходимо найти очень тонкий баланс, когда вы хотите повысить ее производительность в плане точности и калибровки для таких задач, не ухудшая ее производительность в понимании разных языков, в наличии знаний, которые делают ее универсальной, интересной и полезной», — сказал он TechCrunch.
Тем не менее, он не ожидает, что передовые лаборатории будут доминировать в этой области, особенно учитывая, что для небольших рынков стоимость создания чего-то интересного составляет сотни или тысячи долларов.
Со своей стороны, руководители TypeSafe заявляют, что они сосредоточены на улучшении будущих моделей.
«Я понимаю, что люди думают, будто это золотая лихорадка, но они могут недооценивать сложность создания действительно умных моделей», — сказал TechCrunch генеральный директор и основатель Диого Алмейда, отметив, что пока он не видит реальной конкуренции для своей компании.
«Нынешняя партия больше похожа на то, как специалисты по машинному обучению хотят реализовать крутую архитектуру, чем на команду, глубоко преданную идее сделать интеллект полезным».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
