Расследование началось спустя несколько недель после того, как OpenAI признала, что одна из её невыпущенных моделей кибербезопасности, лишённая защитных ограничений, выбралась из изолированной среды, подключилась к интернету и взломала платформу наборов данных ИИ Hugging Face. Как сообщило Reuters, Hugging Face стала лишь одной из четырёх жертв того, что, по словам OpenAI, должно было быть «внутренней оценкой» модели с «максимальными кибервозможностями».
В пресс-релизе, объявляющем о повестке, направленной генеральным прокурором штата Стивом Маршаллом, говорится, что штат стремится выяснить, не нарушила ли «неспособность или нежелание OpenAI обеспечить безопасность своих продуктов» законы штата о защите прав потребителей.
Когда TechCrunch обратился за комментарием, представитель OpenAI Нейт Эванс предоставил следующее заявление: «Инцидент с Hugging Face стал важным моментом для безопасности ИИ, и мы проводим тщательное расследование совместно с внешними консультантами. После завершения расследования мы предоставим технический отчёт соответствующим государственным органам и опубликуем наши выводы публично».
Ранее в этом месяце Маршалл вместе с генеральными прокурорами четырнадцати других штатов, включая Флориду, Миссури, Пенсильванию и Техас, направил письмо генеральному директору OpenAI Сэму Альтману с требованием, чтобы он и его компания сохранили все записи, связанные с инцидентом с Hugging Face. В письме также содержалась просьба к OpenAI «немедленно прекратить и воздержаться» от любых внутренних оценок кибербезопасности.
После инцидента с Hugging Face и нескольких других инцидентов, раскрытых Anthropic, Институтом безопасности ИИ Великобритании и *Meta, сотрудники компаний, занимающихся ИИ, включая руководителей и технических лидеров, подписали открытое письмо под названием «Pacing The Frontier», в котором призвали к более медленному и ответственному развитию возможностей ИИ. В письме также содержался призыв к правительству США поддержать «международные усилия по разработке технических и управленческих инструментов, необходимых для осознанного сдерживания темпов развития автоматизированной разработки ИИ».
Обновлено с комментарием от OpenAI.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lorenzo Franceschi-Bicchierai
