Компания IBM выпустила новейшие модели из семейства больших языковых моделей с открытыми весами, предназначенных для загрузки и самостоятельного размещения. Недавно запущенная Granite 4.2 доступна в вариантах с 3B, 8B и 30B параметров.
Как и в предыдущих версиях, IBM использует здесь подход, основанный только на декодере. Эти новые релизы изначально поддерживают контекстное окно в 128 000 токенов. Варианты на 8B и 30B (не 3B) также проходят блок агентного обучения с подкреплением; они были обучены расширенным возможностям, таким как использование терминала, поиск в интернете или работа с внешними инструментами. Модель на 3B также поддерживает инструменты, но без такого же уровня специализированного обучения.
Помимо этих доработок, данный релиз особенно примечателен тем, что, как пишет сама IBM, «Granite 4.2 — это ориентированный на рассуждения выпуск семейства языковых моделей Granite».
Когда исследователи или разработчики в этой области говорят, что модель способна к рассуждению, они имеют в виду не то же самое, что мы часто подразумеваем, говоря о человеческом мышлении; модели не осознают проблему. Вместо этого речь идет о функциональном рассуждении, в частности через «цепочку мыслей» и перенос промежуточных результатов через несколько шагов.
,
Для пользователя это означает более строгие и точные ответы в некоторых случаях, но часто более медленное время отклика и более высокие вычислительные затраты.
Семейство моделей Granite от IBM редко попадает в заголовки новостей как самое быстрое или наиболее агрессивно инновационное. Даже по сравнению с другими конкурентами в локальном корпоративном пространстве, такими как Nemotron от Nvidia, предложение, похоже, заключается в предсказуемом развертывании — что является приоритетом, которого можно ожидать от IBM в наши дни.
В последнее время ведется огромное количество дискуссий о стоимости и вычислительной нагрузке, связанных с передовыми облачными моделями от таких компаний, как Anthropic или OpenAI. Во многих областях как отдельные разработчики, так и корпоративные организации изучают локальные модели как более дешевую альтернативу.
Это также привело к повышенному интересу к маршрутизаторам моделей — инструментам ИИ, основная задача которых — интерпретировать запросы, задачи или проекты пользователей и направлять их к моделям соответствующего масштаба для балансировки производительности, скорости и стоимости.
Такие модели также популярны среди энтузиастов, исследователей ИИ и отдельных разработчиков, поскольку с ними можно экспериментировать на локальном оборудовании без оплаты за каждый токен через API.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Samuel Axon
