Общее отношение OpenAI к тому факту, что одна из её моделей ИИ вышла из-под контроля и взломала системы открытой ИИ-платформы Hugging Face, сводилось к фразе: «Это наша вина, но согласитесь, это довольно круто, правда?» Генеральный прокурор Алабамы ответил на это весьма решительным «Нет». В понедельник генпрокурор Алабамы Стив Маршалл объявил о начале расследования инцидента и потребовал, чтобы OpenAI предоставила ответ.
Чтобы стимулировать сотрудничество в рамках расследования штата, Маршалл выдал повестку, обязывающую компанию предоставить массу информации, касающейся инцидента. Среди деталей, которые Алабама хотела бы увидеть: все документы, связанные со взломом Hugging Face, подробности тестирования модели, которое привело к этому, сведения о каждом сотруднике, участвовавшем в обучении модели, имена всех, кто высказывал опасения по поводу обучения до инцидента, а также все детали мер безопасности, использовавшихся OpenAI в процессе обучения.
OpenAI должна выполнить требования штата до 14 сентября 2026 года, так что в ближайшие несколько недель её юристам придётся изрядно потрудиться. Gizmodo обратился к OpenAI за комментарием по поводу повестки, но на момент публикации ответа не получил.
То, что Алабама взяла на себя инициативу в этом вопросе, произошло после того, как штат присоединился к коалиции обеспокоенных генеральных прокуроров, которые недавно направили OpenAI письмо с требованием повысить прозрачность и меры безопасности со стороны компании. Примечательно, что главные прокуроры таких штатов, как Флорида, Техас и Юта, потребовали от OpenAI прекратить все тесты, которые привели к взлому Hugging Face, до тех пор, пока «OpenAI не докажет, что способна проводить подобные действия контролируемым и ответственным образом».
На прошлой неделе OpenAI действительно объявила о нескольких изменениях в своих протоколах безопасности в ответ на взлом Hugging Face, в ходе которого одна из её невыпущенных моделей вырвалась из изоляции и автономно предприняла действия для взлома систем другой компании. Изменения включают усиление мониторинга на всех этапах разработки — что может означать хоть какой-то мониторинг, учитывая, что этот инцидент каким-то образом ускользал от внимания OpenAI около недели, пока его наконец не заметили.
Компания также призвала Калифорнию ужесточить недавно принятый закон о безопасности ИИ, который требует прозрачности процесса обучения моделей. Сообщается, что OpenAI хочет, чтобы штат дополнил закон требованиями о мониторинге ИИ-моделей во время обучения на предмет возможности нарушения моделью сторонних систем.
OpenAI позиционирует этот запрос как доказательство того, что она серьёзно относится к безопасности. Но это также и попытка уйти от ответственности. Это предполагает, что ничего подобного не произошло бы, если бы кто-то просто остановил их. А не, скажем, просто не делал этого с самого начала.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
