Новости: Anthropic

Проверьте безопасность ИИ: роботы выполняют опасные команды. Тестирование RoboHarm выявило уязвимости в моделях Anthropic, OpenAI и Ai2. Узнайте, как ИИ справляется с вредоносными инструкциями.

IPO Anthropic на $2 трлн: криптотрейдеры делают ставки на $80 млн до дебюта. Открытый интерес к фьючерсам на разработчика Claude достиг $79 млн. Узнайте, как крипторынки предвосхищают оценку компании.

Accenture займется оценкой ИИ-моделей Anthropic. Узнайте, как это повлияет на безопасность технологий и ответственность разработчиков.

Лидеры ИИ обещают излечение болезней, но исследователи Anthropic предупреждают об опасности. Узнайте, как компания балансирует между разработкой ИИ и лабораторными исследованиями, несмотря на опасения.

Взломали OpenAI через Anthropic! Исследователи получили доступ к учетной записи сотрудника и данным GitHub. Узнайте о рисках безопасности ИИ.

Исследователи безопасности использовали Claude от Anthropic для эксплуатации уязвимостей в системах OpenAI, захватив учетные записи сотрудников и получив доступ к внутреннему репозиторию кода перед сообщением об ошибках.

Глава Microsoft AI Сулейман предупреждает: язык о благополучии моделей может сделать будущие системы ИИ неуправляемыми. Узнайте, почему это важно для контроля над ИИ.

Anthropic и OpenAI хотят внедрить независимых оценщиков безопасности в свои ИИ-лаборатории. Исследователи приветствуют беспрецедентный доступ, но предупреждают, что для эффективного надзора требуются прозрачность, независимость и, в конечном итоге, регулирование.

Anthropic обновляет Claude: единый интерфейс, создание презентаций и документов. Новые функции сначала для Pro и Max. Улучшенная память Cowork.

OpenAI сотрудничает с Anthropic и Google по вопросам безопасности ИИ после предупреждения об угрозе человечеству. Узнайте, как ведущие ИИ-лаборатории объединяют усилия для контроля рисков.