Идея заключается в том, чтобы взять политику контента, написанную простым английским языком, и применять ее к сообщениям менее чем за 50 миллисекунд. Модель Musubi разработана так, чтобы по стоимости и скорости быть похожей на системы классификаторов ИИ, которые обеспечивают модерацию на большинстве социальных платформ, но благодаря гибкости современной LLM она может применять сложные политики без специального обучения. Что еще более важно, модели не потребуется новое обучение при изменении политики, что позволит специалистам по разработке политики итеративно вносить изменения столько, сколько потребуется.
Как считает соучредитель и директор по ИИ Musubi Филип Янкович, это дает менеджерам платформ возможность проактивно маркировать контент.
«Продуктовые команды просто хотят лучше понимать, что происходит на их платформе, особенно учитывая экспоненциальный рост объема контента», — говорит Янкович. «Возможность маркировать все это в очень масштабируемом, настраиваемом режиме чрезвычайно полезна».
Модели принятия решений стали горячей темой в мире ИИ с момента выпуска Jev от TypeSafe AI в сентябре, за которым вскоре последовали конкурирующие модели принятия решений от OpenAI и Amazon. Вместо вывода текста модель принятия решений выводит вероятности исходов, хотя в данном случае модель выдает бинарное суждение: либо контент относится к категории, либо нет. Ограничивая вывод модели набором предопределенных вариантов, модели принятия решений могут работать быстрее и дешевле, чем большие языковые модели, сохраняя при этом гибкость архитектуры трансформера.
Один из ранних сценариев использования — пресечение неправомерного поведения со стороны ИИ-агентов, поэтому вполне естественно применять ту же технологию и к неправомерному поведению людей.
Примечательно, что Янкович говорит, что его интерес к моделям принятия решений предшествовал Jev, и он отслеживает его до проекта 2024 года под названием GLiNER (Generalist Model for Named Entity Recognition), в котором использовались многие из тех же методов.
Тем не менее, Musubi не опасается сравнений. Если что-то и делает компания, так это стремится использовать новый интерес к моделям принятия решений, чтобы привлечь внимание к модерации контента. «Если Jev привлек ваше внимание, PolicyLM-1.7B — это модель того же типа, обученная специально для модерации контента, которую вы можете запустить самостоятельно», — говорится в анонсе продукта.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Russell Brandom
