Новости: owasp

Эксперт Адам Шостак представил PHANTOM-B — фреймворк для быстрого моделирования угроз LLM-систем. Узнайте, почему традиционные методы не справляются с ИИ, какие ошибки допускают команды и как за 15 минут выявить риски галлюцинаций, предвзятости и инъекций промптов.

Узнайте, как Zero Networks внедряет принцип Least Agency для защиты ИИ-агентов. Новая функция блокирует компрометацию на сетевом уровне, ограничивая доступ к системам и требуя MFA для чувствительных протоколов. Не дайте агентам выйти за пределы полномочий.

По мере ускорения разработки ПО с помощью ИИ-помощников, проект CVE Lite CLI от OWASP утверждает, что инструменты безопасности зависимостей срабатывают слишком поздно. Этот сканер уязвимостей JavaScript/TypeScript анализирует lock-файлы локально, чтобы разработчики видели риски сразу при написании кода. — csoonline.com

Тестирование на проникновение систем на базе ИИ выявляет больше критических уязвимостей, чем в устаревших системах. Отчет Cobalt показал, что 32% проблем LLM — высокорисковые, что почти в 2,5 раза выше, чем в среднем по корпоративным системам. — csoonline.com

Microsoft выпустила Agent Governance Toolkit — проект с открытым исходным кодом для мониторинга и контроля ИИ-агентов в продакшене. Инструментарий отвечает на риски OWASP, добавляя уровень безопасности во время выполнения для смягчения угроз, таких как внедрение подсказок. — csoonline.com

Проект OWASP предлагает компаниям контрольный список для повышения безопасности генеративного ИИ. Пока OpenAI, Google и другие наращивают пользовательскую базу, ИТ-безопасность пытается угнаться за развитием ИИ. — csoonline.com