Новости: Anthropic

Anthropic представила обновленную 23-тысячесловную «конституцию» для своей модели Claude, описывая ее как «субъект», который может обладать подобием эмоций. Компания стремится к тому, чтобы ИИ был безопасным, этичным и полезным, используя сложную систему принципов.

Обновлённая «Конституция Клода» от Anthropic представляет собой дорожную карту для создания более безопасного и полезного чат-бота. В документе детализированы этические принципы и нормы, которыми руководствуется модель, делая акцент на безопасности и благополучии пользователей.

Глава Anthropic Дарио Амодей резко раскритиковал администрацию США и чиповые компании за планы поставок в Китай. Критика особенно резонансна, так как Nvidia — ключевой партнер и инвестор Anthropic. Амодей сравнил экспорт чипов с продажей ядерного оружия, подчеркнув риски для нацбезопасности из-за развития ИИ.

Глава Anthropic Дарио Амодей раскритиковал решение США разрешить экспорт мощных GPU Nvidia в Китай, сравнив это с передачей ядерного оружия. Он настаивает на строгом контроле экспорта ИИ-технологий, опасаясь усиления конкурентов, несмотря на то что китайские модели пока уступают западным в реальных задачах.

Исследователи Anthropic картировали нейронные активации LLM, выявив «Ось Ассистента» — ключевую область для стабилизации поведения ИИ. Удержание моделей в этой зоне помогает противостоять джейлбрейкам и нежелательным персонам.

Стартап Humans&, основанный бывшими сотрудниками ведущих AI-лабораторий, привлек $480 млн на посевном раунде при оценке в $4,48 млрд. Компания разрабатывает ПО на базе ИИ для улучшения совместной работы людей, фокусируясь на инновациях в обучении моделей и их взаимодействии с пользователями.

Исследователи выявили и помогли устранить три критические уязвимости в Git MCP сервере Anthropic, которые позволяли удаленно выполнять код. Проблемы возникали при цепочке с другими MCP инструментами и эксплуатации уязвимостей, связанных с внедрением подсказок (prompt injection).

Глава Anthropic Дарио Амодей резко раскритиковал разрешение на экспорт чипов NVIDIA H200 в Китай, сравнив это с передачей ядерного оружия КНДР. Он убежден, что США дают Пекину технологическое преимущество в гонке ИИ, игнорируя отставание Китая из-за дефицита вычислительных мощностей.

Лидер в сфере ИИ, Anthropic, нацелен на рекордное привлечение $25 млрд, чтобы войти в элиту самых дорогих частных компаний мира. К раунду инвестиций присоединилась Sequoia. Узнайте подробности о новой оценке компании и стратегии монетизации Claude.

Анализ Anthropic и других исследований показывает, что внедрение ИИ усугубляет экономическое неравенство: богатые страны получают доступ к технологии быстрее, в то время как работники не видят роста производительности.