Новости: Anthropic

Глава Anthropic Дарио Амодей раскритиковал решение США разрешить экспорт мощных GPU Nvidia в Китай, сравнив это с передачей ядерного оружия. Он настаивает на строгом контроле экспорта ИИ-технологий, опасаясь усиления конкурентов, несмотря на то что китайские модели пока уступают западным в реальных задачах.

Исследователи Anthropic картировали нейронные активации LLM, выявив «Ось Ассистента» — ключевую область для стабилизации поведения ИИ. Удержание моделей в этой зоне помогает противостоять джейлбрейкам и нежелательным персонам.

Стартап Humans&, основанный бывшими сотрудниками ведущих AI-лабораторий, привлек $480 млн на посевном раунде при оценке в $4,48 млрд. Компания разрабатывает ПО на базе ИИ для улучшения совместной работы людей, фокусируясь на инновациях в обучении моделей и их взаимодействии с пользователями.

Исследователи выявили и помогли устранить три критические уязвимости в Git MCP сервере Anthropic, которые позволяли удаленно выполнять код. Проблемы возникали при цепочке с другими MCP инструментами и эксплуатации уязвимостей, связанных с внедрением подсказок (prompt injection).

Глава Anthropic Дарио Амодей резко раскритиковал разрешение на экспорт чипов NVIDIA H200 в Китай, сравнив это с передачей ядерного оружия КНДР. Он убежден, что США дают Пекину технологическое преимущество в гонке ИИ, игнорируя отставание Китая из-за дефицита вычислительных мощностей.

Лидер в сфере ИИ, Anthropic, нацелен на рекордное привлечение $25 млрд, чтобы войти в элиту самых дорогих частных компаний мира. К раунду инвестиций присоединилась Sequoia. Узнайте подробности о новой оценке компании и стратегии монетизации Claude.

Анализ Anthropic и других исследований показывает, что внедрение ИИ усугубляет экономическое неравенство: богатые страны получают доступ к технологии быстрее, в то время как работники не видят роста производительности.

Ирина Гхоуз, ветеран Microsoft с 24-летним стажем, назначена управляющим директором Anthropic в Индии. Это усиление позиций компании на стратегически важном индийском рынке ИИ, где растет спрос на Claude и усиливается конкуренция с OpenAI.

Лаборатории ИИ переживают кадровый кризис: из OpenAI продолжают уходить ключевые специалисты по безопасности и выравниванию в конкурирующий Anthropic. Тем временем OpenAI усиливает команду, привлекая топ-менеджера для работы над собственной ОС.

Агентурный ИИ-помощник Anthropic Cowork оказался уязвим для старой атаки по утечке данных через Files API, что вновь вызвало критику в адрес компании за перекладывание ответственности на пользователей. Офисным работникам без опыта в ИИ советуют следить за подозрительными действиями, что признано нереалистичным требованием.