Новости: безопасность ИИ

Мы находимся в переходном периоде — все мы. Эксперт по безопасности предупреждает, что с ростом ИИ безопасность должна быть приоритетом, а не дополнением, особенно на фоне проблем с API Google Cloud. — techcrunch.com

Исследователи разработали новую атаку внедрения промптов на основе изображений под названием «CrossMPI», которая манипулирует интерпретацией инструкций мультимодальными системами ИИ через незаметные искажения изображений, расширяя риски безопасности для агентов ИИ и систем «зрение-язык». — csoonline.com

Palo Alto Networks запустила Idira — новую платформу безопасности идентификации для защиты пользователей, машинных идентификаторов и ИИ-агентов. Idira выходит за рамки PAM, применяя динамическое управление привилегиями ко всем типам идентификаторов. — csoonline.com

Индустрия безопасности переживает дежавю: переход от статических проверок состояния к поведенческому обнаружению в сфере ИИ неизбежен, как это было с антивирусами. Узнайте, как избежать болезненного этапа и подготовить SOC к мониторингу реальных действий ИИ-систем. — csoonline.com

Мы оказались на краю пропасти, которую сами же неосознанно вырыли, и головокружительная глубина нашего коллективного пренебрежения должна заставить каждого специалиста по безопасности глубоко задуматься. В нашей стремительной гонке по внедрению ИИ-агентов в корпоративные среды мы возвели инфраструктуру, настолько совершенно незащищенную, что это не поддается осмыслению. Протокол контекста модели (MCP), […] — csoonline.com

SBOM для ИИ (AI-BOM) — новый инструмент для обеспечения безопасности цепочек поставок в условиях широкого использования ИИ. “Если у вас нет видимости, вы не можете понять, что нужно защищать”. — theregister.com

Две независимые программы, от Irregular и «Лаборатории Касперского», пришли к выводу: LLM генерируют предсказуемые пароли, которые стандартные метрики переоценивают. Агенты ИИ внедряют их в инфраструктуру, а сканеры секретов их не видят. — csoonline.com

Утечка исходного кода Claude Code привела к обнаружению уязвимости. Исследователи Adversa выяснили, что при более чем 50 подкомандах Claude Code отключает анализ безопасности, позволяя пользователю неосознанно авторизовать вредоносные действия. — csoonline.com

Вместо разработки с нуля методов повышения безопасности ИИ для подростков разработчики могут использовать новые политики OpenAI для укрепления своих продуктов. Они касаются насилия, контента и опасного поведения. — techcrunch.com

GPT-5.4 позиционируется как «наша самая способная и эффективная передовая модель для профессиональной работы». Модель предлагает окно контекста до 1 млн токенов и улучшенную эффективность. — techcrunch.com