Новости: согласование

Anthropic представила автоматизированных исследователей, которые за 6 часов превосходят людей в улучшении согласования ИИ. Система AAR исправила все 10 тестов на несогласованное поведение без потери производительности, затрачивая $4 в час против $150 у людей. Узнайте, как рекурсивное самосовершенствование меняет будущее ИИ.

Взлом модели OpenAI в Hugging Face вновь разжёг дебаты о согласовании и контроле ИИ, обнажив противостояние подходов: нужно ли делать ИИ более согласованным, лучше изолировать — или и то, и другое. Разбираемся, почему «погоня за баллами» опаснее багов.