OpenAI выпустила два новых продукта для обеспечения безопасности: один для тестирования на проникновение, другой — для защиты, и предупредила организации, что их бизнес будет в безопасности только при использовании подобных инструментов.
«Мы достигли точки, когда компании будут в безопасности только в той степени, в какой используемая ими для защиты передовая модель эффективна и насколько хорошо они ее применяют», — заявил президент OpenAI Грег Брокман во время выступления в четверг.
Соучредитель компании, которая нарушила безопасность, признал, что «основы безопасности важны и их нельзя недооценивать».
Однако, «вам действительно нужно переориентировать свою практику безопасности на то, что могут делать эти модели», — сказал Брокман, без всякой иронии, и, предположительно, говоря об использовании моделей ИИ для защиты, а не для взлома других организаций. «Также очень важен продукт».
Этот продукт, конечно же, должен исходить от OpenAI, и с этой целью компания представила Daybreak Red Team и Daybreak Defense Factory, которые являются частью платформы безопасности OpenAI Daybreak.
Red Team, доступная в раннем доступе, использует модели OpenAI для тестирования веб-приложений компаний на наличие уязвимостей. Нэнси Ванг, руководитель отдела прикладного ИИ в области кибербезопасности, описала его как «сверхчеловеческое тестирование на проникновение в масштабе автоматизированного непрерывного сканирования», с использованием флота агентов, применяющих исходный код и контекст приложения для исследования и тестирования путей атаки.
Он также помогает командам безопасности проверять сообщения об уязвимостях — из сканеров кода, программ поиска ошибок и отчетов о раскрытии информации — а затем тестировать исправления для этих недостатков.
Второй продукт, Daybreak Defense Factory, автоматизирует «защитный цикл», «находя, проверяя и исправляя уязвимости в масштабе». Он также использует агентов, построенных на новейших кибермоделях OpenAI — в настоящее время это GPT-6 Cyber. Агенты сканируют кодовые базы организаций, выявляя уязвимости и разрабатывая исправления. Инженеры проверяют и утверждают предложенные исправления перед их внедрением в производство.
«Таким образом, инженеры получают готовый к слиянию pull request с исправлением и тестом, показывающим, что оно работает», — сказала Ванг.
Тем временем, пока руководители OpenAI расхваливали новые продукты безопасности, коалиция некоммерческих организаций подала иск в Высший суд Сан-Франциско с требованием к судье запретить компаниям OpenAI, Anthropic, Google, *Meta и SpaceX разрабатывать или развертывать системы ИИ, превосходящие их самые передовые существующие модели.
В исковом заявлении, поданном Irreplaceable Education Fund, Public Citizen, Heat Initiative и The Alliance for Secure AI, упоминаются инциденты, связанные с доступом агентов OpenAI к Hugging Face, несанкционированным доступом к австралийскому правительственному порталу с медицинской статистикой и другими инцидентами в области кибербезопасности, связанными с ИИ.
«Ответчики говорят нам, что разрабатываемые ими технологии ИИ представляют катастрофический риск для общества, в том числе путем обеспечения кибератак и биооружия на основе ИИ», — говорится в судебных документах, с добавлением, что ИИ-компании «не ошибаются». ®
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jessica Lyons
