Новости: Anthropic

Агентство национальной безопасности США, по сообщениям, использует модель Mythos для проведения кибератак — отчет выявил инженеров Anthropic внутри АНБ. — tomshardware.com

Компания Anthropic призывает к паузе в разработке ИИ до внедрения мер безопасности, но ее ожидаемое IPO заставляет балансировать между репутацией лидера в области безопасности и требованиями будущих акционеров. — gizmodo.com

Агентство США по прослушиванию, как сообщается, готовит Mythos от Anthropic к использованию в кибератаках, несмотря на федеральный запрет на использование модели ИИ этого разработчика. — techcrunch.com

Anthropic опубликовала доклад, предупреждающий, что путь развития ИИ может привести к потере контроля со стороны человека. В отчете говорится о риске рекурсивного самоулучшения систем ИИ. — tomshardware.com

Anthropic призывает к глобальной паузе в разработке ИИ, предупреждая, что скоро могут появиться самосовершенствующиеся системы ИИ, которые нарушат стабильность общества без мер безопасности. — techtimes.com

Соучредитель гиганта ИИ объяснила, почему компания может обратиться к публичному рынку за капиталом и почему противодействие токеномаксингу не вызывает беспокойства. — techcrunch.com

Эксперты на Infosecurity Europe призвали команды безопасности готовиться к расширению доступа Anthropic и OpenAI к передовым моделям ИИ для поиска уязвимостей. Anthropic расширяет Project Glasswing с доступом к Claude Mythos, что сигнализирует о сдвиге в кибербезопасности. — csoonline.com

Lovable и Google подписали расширенное многолетнее соглашение, которое предусматривает пятикратное увеличение присутствия Lovable в Google Cloud и расширенный доступ к Anthropic Claude. — techcrunch.com

Anthropic во вторник объявила о включении еще 150 компаний в свою инициативу Project Glasswing по поиску уязвимостей на базе ИИ, уделив особое внимание компаниям, работающим в сфере критической инфраструктуры, включая тех, кто задействован в «энергетике, водоснабжении, здравоохранении, связи и производстве оборудования». Аналитики и поставщики решений в области безопасности сошлись во мнении, что этот шаг является позитивным, отмечая, что чем больше компаний участвует […] — csoonline.com

Anthropic расширяет доступ к опасной модели Claude Mythos Preview по программе Project Glasswing. Это опасно, но не СЛИШКОМ опасно, чтобы не дать доступ большему числу организаций. — gizmodo.com