Новости: goodfire

Goodfire предлагает более дешевый способ контроля ИИ-агентов: вместо оплаты второй ИИ для чтения всего, что делает агент, ее мониторы заглядывают внутрь модели во время работы и вызывают подкрепление только при обнаружении подозрительной активности.