Новости: безопасность ИИ

Уитфилд Диффи и Эндрю Барто, два лауреата премии Тьюринга, выступили с программными речами на 8-й конференции BAAI в Пекине, сойдясь на общей озабоченности: фундаментальных теоретических проблемах обеспечения безопасности и согласованности AGI. — pandaily.com

Google DeepMind финансирует исследования потенциальных опасностей взаимодействия миллионов ИИ-агентов в сети. По мнению экспертов, массовое появление автономных агентов создает новый класс рисков, требующий срочной разработки мер безопасности в новой области — безопасности мультиагентных систем. — technologyreview.com

Бывший инженер xAI подает в суд на компанию и SpaceX, утверждая, что его уволили за то, что он поднял вопросы безопасности ИИ в отношении Grok за несколько дней до исторического IPO SpaceX. — techcrunch.com

Генеральный прокурор Флориды подал иск против лаборатории ИИ OpenAI, утверждая, что компания эксплуатирует пользователей и подвергает детей риску членовредительства. — neowin.net

CISO, полагающиеся на механизмы защиты LLM и официальные оценки безопасности, рискуют: исследование Cisco показало, что передовые модели ИИ имеют худшие профили рисков при многоходовых атаках по сравнению с одиночными запросами. — csoonline.com

Исследователи утверждают, что для защиты ИИ-агентов в предприятиях необходимо внедрять системные средства контроля, а не полагаться на повышение надежности моделей. Традиционные подходы к безопасности ИИ не соответствуют работе автономных агентов. — csoonline.com

Мы находимся в переходном периоде — все мы. Эксперт по безопасности предупреждает, что с ростом ИИ безопасность должна быть приоритетом, а не дополнением, особенно на фоне проблем с API Google Cloud. — techcrunch.com

Исследователи разработали новую атаку внедрения промптов на основе изображений под названием «CrossMPI», которая манипулирует интерпретацией инструкций мультимодальными системами ИИ через незаметные искажения изображений, расширяя риски безопасности для агентов ИИ и систем «зрение-язык». — csoonline.com

Palo Alto Networks запустила Idira — новую платформу безопасности идентификации для защиты пользователей, машинных идентификаторов и ИИ-агентов. Idira выходит за рамки PAM, применяя динамическое управление привилегиями ко всем типам идентификаторов. — csoonline.com

Индустрия безопасности переживает дежавю: переход от статических проверок состояния к поведенческому обнаружению в сфере ИИ неизбежен, как это было с антивирусами. Узнайте, как избежать болезненного этапа и подготовить SOC к мониторингу реальных действий ИИ-систем. — csoonline.com