Алмейда, бывший исследователь OpenAI, который участвовал в создании чат-бота и разработке метода обучения с подкреплением на основе обратной связи от человека (RLHF) — техники обучения моделей, возможно, наиболее ответственной за нынешний расцвет ИИ, — был разочарован его возможностями.
«У нас есть молния в бутылке, но она бесполезна», — сказал Алмейда TechCrunch. «Я борюсь с этой проблемой с тех пор. Мне потребовалось время, чтобы прийти к выводу: проблема в том, что мы оптимизируем для человеческого языка… Мы были очень хороши в человеческом языке в течение четырех лет, но это бесполезно для автоматизации, потому что компьютеры говорят на другом языке».
Два года назад Алмейда покинул OpenAI, чтобы основать TypeSafe AI — стартап, пытающийся решить эту проблему. На этой неделе компания выпустила новую модель на основе трансформера под названием Jev, которая не является большой языковой моделью (LLM). Она не генерирует текст, а вместо этого выдает вероятности, или то, что компания называет «калиброванными решениями».
Отказ от языка дает несколько преимуществ: модель становится невероятно дешевой и быстрой, а поскольку пользователи заранее определяют выходные данные, она не может галлюцинировать. Ее выходные токены бесплатны, а входные токены измеряются миллиардами, а не миллионами.
Разработчики проявляют большой интерес к продукту; компания ненадолго потеряла возможность обслуживать пользователей через свой API из-за высокого спроса. Jev представляется наиболее полезной для автоматизации программного обеспечения. На данный момент разработчики программного обеспечения видят в ней более дешевый и надежный способ внедрения интеллекта в свой код.
Например, Пранит Шарма, инженер-программист в Vercel, компании, занимающейся инфраструктурой для агентов, сообщил, что его компания использовала ChatGPT Luna 5.6 от OpenAI для запуска классификатора для проверки команд на безопасность. Когда Vercel заменила Luna от OpenAI на Jev, результаты были получены в 5–18 раз быстрее и с большей точностью.
Другой разработчик, технический директор Bryo AI Нихил Мудхолкар, протестировал Jev против Gemini для классификации деловых писем. В его тесте Gemini показал немного большую точность, но был в 10–20 раз дороже. Более интересными для Мудхолкара оказались оценки уверенности Jev — «это единственная модель, которая выдает реальную вероятность, что делает ее идеальной для автоматизации рабочих процессов!!»
Помимо замены LLM в определенных сценариях использования, новая модель может также дополнять их, выступая в роли умного контролера для предотвращения некорректного поведения. Использование агентов для мониторинга агентов может быстро стать дорогостоящим, но, по мнению Алмейды, использование Jev для этой цели имеет смысл. Он видит, как пользователи развертывают Jev для отслеживания следов агентов LLM и предотвращения взломов.
«В конечном итоге, это немного перекладывает проблему галлюцинаций на пользователя», — пояснил Армин Ронахер, технический директор Earendil, компании, разрабатывающей фреймворк для моделей с открытым исходным кодом Pi. «Пользователь должен сказать: хорошо, если это возвращает только 50% вероятности, возможно, это подбрасывание монеты, и я это игнорирую. Но если это 95%, конечно, тогда я могу с этим что-то сделать».
Еще одно потенциальное применение Jev — маршрутизация моделей, сказал Ронахер. Прогнозирование того, требует ли данная рабочая нагрузка конкретную модель, было бы полезно, но использование LLM для этой задачи было бы дорогостоящим. Низкая стоимость и скорость Jev делают возможной такую сортировку в реальном времени.
И это надежда Алмейды. Модель названа в честь Уильяма Стэнли Джевонса, экономиста XIX века, чей одноименный парадокс описывает, как снижение стоимости товара может привести к его все более широкому использованию. В данном случае снижение стоимости интеллекта должно привести к его повсеместному внедрению.
«Мы думаем, что умное программное обеспечение будет повсюду, возникая и распределяясь… гораздо больше похоже на ранний интернет, чем на мега-приложения, которые люди пытаются создать прямо сейчас», — сказал Алмейда.
Алмейда хранит молчание относительно архитектуры модели, хотя внешние наблюдатели подозревают, что она построена на основе LLM с открытым весом. Компания называет Jev «моделью Системы Один», ориентированной на интуицию, а не на рассуждение, и специально ориентированной на правильную задачу. Алмейда говорит, что Jev обучается исключительно на синтетических данных с использованием техники, которую он называет «обучение с подкреплением на основе калиброванных решений».
«Мы сделали раннюю ставку на то, что будем создавать все наши данные, и это была одна из лучших ставок, которые я когда-либо делал в жизни — лучше, чем наш запуск, по моему мнению, лучше, чем RLHF», — сказал он TechCrunch. «Половина [нашей компании] — это лаборатория, которая владеет всей этой подобластью статистически хорошо изученных синтетических данных, и это теперь моя жизненная радость».
На данный момент Jev остается единственной моделью такого рода, но Ронахер ожидает, что конкуренты появятся, как только ее полезность станет очевидной.
«Во многих отношениях мы должны были увидеть это раньше, но, предположительно, поскольку LLM так дешевы и субсидируются, вам часто еще не приходится быть креативными», — сказал он.
Сама TypeSafe будет создавать новые версии модели в новых модальностях. На вопрос, является ли TypeSafe передовой лабораторией, Алмейда ответил: «Основной продукт Frontier Labs — это страх или ажиотаж. Я хотел бы, чтобы нашим основным продуктом был интеллект… [но мы] не лаборатория в смысле, знаете ли, ставки на бесконечное богатство, или религии, или создания Бога в центре обработки данных, или чего-либо еще, что актуально сегодня».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Fernholz
