Новости: red teaming
«Red teaming» в сфере ИИ выходит на новый уровень
Когда Рам Шанкар Сива Кумар запустил команду «красных команд» (red team) по ИИ в Microsoft в 2019 году, эта дисциплина едва существовала. «Раньше ходила шутка, что всех, кто работал в области тестирования ИИ на проникновение, можно уместить в 14-футовом катамаране», — рассказывает он CSO. В то время подход Microsoft был знаком любому специалисту по кибербезопасности: […] — csoonline.com

Джек и Джилл отправились на холм, а ИИ попытался их взломать
Что произойдет, если выпустить автономного ИИ-агента против другого автономного ИИ-агента? Он выстраивает цепочки уязвимостей, которые люди сочли бы безобидными, легко обходит средства контроля аутентификации и даже неожиданно выдает себя за Дональда Трампа, чтобы добиться своего. Именно это обнаружила компания CodeWall в недавнем эксперименте по краснокомандному тестированию, когда столкнула свой автономный ИИ-агент против агентов стартапа Jack & Jill. — csoonline.com

Самое просматриваемое:
- Bitcoin Depot оштрафован на $18,5 млн – сталкивается…
- WatchGuard бьёт тревогу: критическая уязвимость…
- Как настроить ComfyUI для генерации изображений ИИ…
- ECARX берет управление бизнесом Flyme OS в свои руки…
- США прикрыли платформу для хранения паролей, которой…
- Результаты еженедельного опроса: Samsung Galaxy Z…
- Тим Суини из Epic: «нечестность» и «грубое…
- Исследователи из MIT возродили 40-летнюю концепцию…
- Новейший датчик присутствия от Aqara определяет,…
- Представитель сервисного центра Google сообщил…