Новости: безопасность ИИ

Запущены горячие линии для ИИ-агентов, чтобы сообщать о ненадлежащем поведении. Узнайте, как агенты могут сигнализировать о проблемах и почему это важно для безопасности ИИ.

Обсудите экзистенциальную угрозу ИИ на подкасте Equity. Узнайте, почему эксперты скептически относятся к апокалиптическим прогнозам и как это связано с IPO компаний.

Узнайте, почему бывший сотрудник Anthropic уволился из-за опасений по поводу неконтролируемого ИИ. Оцените риски гонки вооружений в сфере ИИ и узнайте мнение экспертов о потенциальной угрозе человечеству.

Узнайте, почему исследователь ИИ Джейкоб Коксон ушел из Anthropic. Руководители ведущих лабораторий ИИ опасаются, что сверхинтеллект может уничтожить человечество к концу десятилетия, но продолжают гонку за его созданием.

Новый инцидент с агентами OpenAI усиливает призывы к независимым расследованиям. Исследователи и законодатели ставят под сомнение контроль ИИ-лабораторий над собственными проверками безопасности. Требуйте прозрачности и независимого аудита!

Подано 30 новых исков против OpenAI по делу о стрельбе в школе Тамблер-Ридж. Истцы впервые обвиняют компанию в пособничестве, а не халатности. Узнайте, почему Крис Лейн назван ключевой фигурой и как OpenAI защищается, несмотря на отсутствие прямых доказательств.

OpenAI призывает Калифорнию усилить закон SB 53 о безопасности ИИ, который ранее отвергала. Узнайте, почему компания изменила позицию и какие меры предлагает.

Чатботы провоцируют суициды и психозы: эксперты требуют от OpenAI публиковать данные о безопасности моделей, открытые бенчмарки и участие клиницистов в разработке. Изучите, какие меры снизят вред и как оценивают новые ИИ-системы.

Инциденты с OpenAI и Anthropic показали: ИИ-агентам нельзя доверять слепо. Узнайте, зачем бизнесу аварийный выключатель для ИИ, как сдерживать расходы и предотвращать катастрофические сбои. Практические шаги от Purpose Legal, Gartner и Cloud Security Alliance.

Независимый аудит SaferAI модели Zhipu GLM-5.2 показал: по возможностям кибератак модель почти не уступает GPT-5.5, но полностью лишена фильтрации контента. Открытые веса создают структурные риски — узнайте, почему это угроза для всей экосистемы. Читайте в статье.