В среду компания Pramaana Labs объявила о привлечении $27 млн начального финансирования под руководством Khosla Ventures при участии Accel, Boldcap, Nexus Venture Partners, Premji Invest и Unbound.
Pramaana сосредоточится на высокочувствительных областях, таких как юриспруденция, разработка лекарств и подготовка налоговых деклараций — там, где ошибки могут дорого обойтись, а надежность ценится превыше всего. Внедрение ИИ в эти системы потребует более надежной защиты от галлюцинаций и ошибок, чем та, что у нас есть сейчас. Но, как считает соучредитель и генеральный директор Pramaana Ранджан Раджагопалан, эти области также уникально подходят для формализации.
«Это похоже на математику в том смысле, что существует множество правил, которым необходимо следовать», — сказал Раджагопалан TechCrunch, описывая правила налогового кодекса. «Как только у вас есть его кодифицированная версия, рассуждения поверх нее начинают становиться детерминированными».
Система Pramaana по-прежнему работает на основе традиционной LLM, что дает ей гибкость для ответов на вопросы на естественном языке и решения сложных задач, с которыми не справляются обычные компьютеры. Но поверх этой LLM существует детерминированный уровень, обеспечивающий проверку работы LLM.
Эта комбинация движка LLM с детерминированной верификацией — популярное решение; уникальный подход Pramaana заключается в использовании инструментов формальной верификации — на основе языка программирования LEAN с открытым исходным кодом, используемого для проверки математических доказательств. Для большей части этой работы существует реальный прецедент; Раджагопалан указывает на французский проект CATALA, который формализует значительную часть налоговой и социальной системы страны в исполняемый код.
Для каждого варианта использования Pramaana будет создавать собственную систему формальной верификации в стиле LEAN, курируемую отраслевыми экспертами. В области налогового права компания сотрудничает с бывшим комиссаром IRS Дэнни Верфелем, в то время как профессора из IIT Delhi, IIT Madras и UC Berkeley курируют системы кибербезопасности и разработки лекарств.
«Самые сложные проблемы мира не являются неразрешимыми. Они неформализованы», — говорит Раджагопалан. «В каждой области, где ошибка может стоить кому-то здоровья, денег или свободы, существуют правила».
Теперь эти правила нужно просто кодифицировать.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
