Новости: Anthropic

ServiceNow заключила многолетнее партнёрство с Anthropic для интеграции моделей Claude в свою платформу, параллельно с недавним соглашением с OpenAI. Компания выбрала мультимодельный подход, чтобы предоставить клиентам гибкость в выборе ИИ-решений для корпоративных задач.

Глава Anthropic Дарио Амодеи выпустил объемное эссе о рисках сверхинтеллектуального ИИ, используя его как повод для обсуждения регулирования. Автор статьи критикует смещение фокуса на гипотетические угрозы, игнорируя реальные проблемы, порожденные разработкой ПО и концентрацией капитала в сфере ИИ.

Yahoo представила Yahoo Scout — новый поисковый движок с искусственным интеллектом, который сочетает традиционный поиск с интерактивным чат-интерфейсом. Сервис, работающий на базе Claude от Anthropic, предлагает структурированные ответы и интегрируется в сервисы экосистемы Yahoo.

Anthropic, создатель ИИ Claude, удваивает цели по сбору средств на фоне высокого интереса инвесторов. Компания, по слухам, стремится привлечь до $20 млрд при оценке свыше $300 млрд и готовится к возможному IPO.

Дарио Амодей, глава Anthropic, опубликовал эссе «Юность технологий», в котором предупреждает об огромных рисках развития суперинтеллекта. Он сравнивает экспоненциальный рост ИИ с появлением «страны гениев», представляющей экзистенциальную угрозу, и критикует собственную индустрию за поспешное внедрение мощных систем.

С 2024 года команда Anthropic по оптимизации производительности использует домашнее тестирование для соискателей. Однако по мере совершенствования инструментов кодирования на базе ИИ, тест вынужден постоянно усложняться, чтобы противостоять помощи ИИ при выполнении заданий.

Компания Anthropic представила новую редакцию конституции для своей модели ИИ Claude, перейдя от строгих правил к широким этическим и поведенческим принципам. Это изменение направлено на улучшение способности Claude к обобщению и проявлению здравого суждения в новых ситуациях.

Anthropic представила обновленную 23-тысячесловную «конституцию» для своей модели Claude, описывая ее как «субъект», который может обладать подобием эмоций. Компания стремится к тому, чтобы ИИ был безопасным, этичным и полезным, используя сложную систему принципов.

Обновлённая «Конституция Клода» от Anthropic представляет собой дорожную карту для создания более безопасного и полезного чат-бота. В документе детализированы этические принципы и нормы, которыми руководствуется модель, делая акцент на безопасности и благополучии пользователей.

Глава Anthropic Дарио Амодей резко раскритиковал администрацию США и чиповые компании за планы поставок в Китай. Критика особенно резонансна, так как Nvidia — ключевой партнер и инвестор Anthropic. Амодей сравнил экспорт чипов с продажей ядерного оружия, подчеркнув риски для нацбезопасности из-за развития ИИ.