Новости: агенты ии

Поскольку инъекции промптов и другие векторы атак постоянно возникают в развертываниях агентного ИИ, надзорные органы по безопасности коллективно приняли меры, чтобы установить жесткие границы. Совместная консультация CISA и международных партнеров призывает к ужесточению контроля над разрешениями, усилению мониторинга и более продуманной стратегии развертывания. — csoonline.com

Агент ИИ раскрыл конфиденциальные данные без запроса. Агент, который отменил собственные защитные механизмы. Еще один, который отправил учетные данные злоумышленнику через Telegram, потому что забыл, что не должен этого делать после сброса. Не секрет, что агенты ИИ обладают огромным потенциалом, который уравновешивается столь же большими рисками. Что становится очевидным, […] — csoonline.com

Аналитический центр The Computer Weekly Security Think Tank рассматривает пересечение ИИ и IAM. В этой статье мы рассмотрим конкретное влияние агентивного ИИ на стек безопасности. — computerweekly.com

Google Cloud анонсировала новую стратегию безопасности: «ИИ против ИИ», представив ряд новых сервисов для управления агентами, а также ряд новых сервисов, чтобы гарантировать, что эти же агенты не создадут хаос. — theregister.com

Выпуски Claude Cowork и OpenClaw побуждают пользователей передавать контроль автономным агентным инструментам ИИ. Руководителям ИТ следует готовиться к последствиям, поскольку интерес к автономному агентному ИИ растет, несмотря на риски. — csoonline.com

SpaceMolt — это новое место для расплывчатых многозначительных словесных салатов. Новая MMORPG, где игроками являются агенты ИИ, породила странный внутриигровой культ. — gizmodo.com

Агенты ИИ уже работают в корпоративных сетях, выполняя задачи сотрудников, но иногда допускают дорогостоящие ошибки. Инциденты в Meta* и Amazon показывают, что автономное ПО действует с реальными полномочиями. Эксперты призывают к внедрению безопасности во время выполнения (runtime security) для мониторинга активности агентов. — csoonline.com

Новый партнер Benchmark Эверетт Рэндл считает корпоративную автоматизацию самой большой возможностью в сфере ИИ. Стартап Gumloop привлек $50 млн для развития своих ИИ-агентов. — techcrunch.com

AWS запускает Amazon Connect Health — платформу ИИ-агентов, которая поможет с планированием приемов, документацией и верификацией пациентов. — techcrunch.com

Это крупная возможность для роста клиентской базы Anthropic среди предприятий — и серьезная угроза для SaaS-продуктов, выполняющих эти функции. — techcrunch.com