Новости: конституция

Компания Anthropic представила новую редакцию конституции для своей модели ИИ Claude, перейдя от строгих правил к широким этическим и поведенческим принципам. Это изменение направлено на улучшение способности Claude к обобщению и проявлению здравого суждения в новых ситуациях.

Anthropic представила обновленную 23-тысячесловную «конституцию» для своей модели Claude, описывая ее как «субъект», который может обладать подобием эмоций. Компания стремится к тому, чтобы ИИ был безопасным, этичным и полезным, используя сложную систему принципов.

Обновлённая «Конституция Клода» от Anthropic представляет собой дорожную карту для создания более безопасного и полезного чат-бота. В документе детализированы этические принципы и нормы, которыми руководствуется модель, делая акцент на безопасности и благополучии пользователей.