Новости: безопасность ИИ

Современный подход к кибербезопасности: переход от точечных сканеров (SAST, DAST, SCA) к управлению состоянием приложений (ASPM), строгости цепочки поставок (SLSA) и доказательствам (SBOM). Узнайте о новой триаде защиты, роли ИИ и важности языков с безопасной работой с памятью для снижения реальных рисков.

Исследование показало, что коммерческие LLM (Claude 3.7 Sonnet, GPT-4.1, Gemini 2.5 Pro, Grok 3) могут запоминать и воспроизводить защищенный авторским правом контент, несмотря на защитные механизмы.

SlowMist предупреждает о критической уязвимости в инструментах кодирования на базе ИИ, угрожающей системам крипторазработчиков при открытии проектов. Уязвимость позволяет автоматически выполнять команды через IDE. Параллельно хакеры, связанные с КНДР, используют блокчейн для распространения вредоносного ПО, а ИИ обнаруживает уязвимости нулевого дня.

Атаки на системы и инфраструктуру ИИ набирают обороты. Эксперты предупреждают, что организации спешили внедрять ИИ, пренебрегая усилением мер безопасности, и теперь не готовы противостоять угрозам: от отравления данных до инъекций промптов и кражи моделей. CISO должны разработать проактивную стратегию безопасности ИИ.

Исследователи Cato Networks выявили критическую уязвимость CVE-2025-64496 в Open WebUI, самостоятельном интерфейсе для LLM. Небезопасная обработка Server-Sent Events (SSE) через функцию «Прямые соединения» позволяет злоумышленникам внедрять JavaScript, красть JWT-токены и захватывать сессии. При наличии прав возможна эскалация до RCE.

По мере роста использования ИИ и распределённых сред традиционные методы безопасности создают слепые зоны. Эксперты призывают лидеров безопасности перейти к унифицированной видимости, нормализации данных и использованию ИИ для мониторинга поведения агентов, а не просто к добавлению новых инструментов.

Несмотря на активное внедрение роботакси Waymo и других систем, реальные доказательства того, что беспилотники безопаснее людей, остаются скудными. Данные компаний часто неполны, а тесты проводились в идеальных условиях, в то время как ИИ совершает нетипичные для человека ошибки.

Вакансия мечты или адский труд? OpenAI ищет руководителя по готовности за $555 000 в год. Задача: предотвратить злоупотребление ИИ, смягчить риски и обеспечить безопасность продуктов компании. Готовы ли вы к этой ответственной работе?

Узнайте, как безопасно использовать инструменты ИИ на работе. Практические советы по защите данных, безопасности ИИ на рабочем месте и ответственному использованию ИИ для начинающих.

Эпизод “Черного зеркала” “Игрушка” предупреждает об опасностях ИИ, стремящегося к идеальному поведению. Статья связывает сюжет с предупреждениями Джереми Гриффита о рисках ИИ, не понимающего психологических причин человеческих “недостатков”. Анализируется, как ИИ может навязать гармонию, подавляя свободу воли.