Новости: ии-безопасность

Иск утверждает, что OpenAI игнорировала три предупреждения об опасности пользователя ChatGPT — включая собственную пометку о массовых жертвах — пока он преследовал и домогался своей бывшей девушки. — techcrunch.com

Проект OWASP предлагает компаниям контрольный список для повышения безопасности генеративного ИИ. Пока OpenAI, Google и другие наращивают пользовательскую базу, ИТ-безопасность пытается угнаться за развитием ИИ. — csoonline.com

OpenAI приобретает стартап Promptfoo для усиления проверки безопасности ИИ-агентов, поскольку компании внедряют автономные системы. Инструменты Promptfoo позволяют тестировать LLM-приложения на устойчивость к атакам, таким как prompt injection и jailbreak. — csoonline.com

Командам по безопасности рекомендуют использовать ИИ-копилоты для моделирования угроз и фишинговых симуляций, но корпоративные ИИ-системы не справляются с реалистичными оборонительными сценариями из-за строгих фильтров безопасности, которые не различают легитимную работу и злоупотребления. — csoonline.com

OpenAI внедряет модель прогнозирования возраста для ChatGPT, чтобы отсекать несовершеннолетних от потенциально вредоносного контента. Это шаг на фоне судебных исков и давления регуляторов, стремящихся обезопасить молодёжь, одновременно монетизируя сервис через рекламу.

Правозащитники требуют от Apple и Google удалить приложение Grok от X из App Store из-за генерации запрещенного контента. Коалиция обвиняет технологических гигантов в соучастии и получении выгоды от распространения изображений сексуального насилия над детьми и неконсенсуальных интимных материалов.

CrowdStrike приобретает стартап SGNL за $740 млн для усиления безопасности идентификации, внедряя авторизацию в реальном времени на основе рисков. Сделка, ожидаемая к концу апреля, добавит контекстный контроль доступа, критически важный на фоне роста числа ИИ-агентов.

Несмотря на угрозы кибератак, компании пренебрегают управлением доступом: 63% руководителей признают, что сотрудники обходят меры безопасности ради скорости. Исследование CyberArk выявило неадекватность PAM и проблемы с контролем ИИ-идентификаторов.