OpenAI утверждает, что использовала собственные модели ИИ для выявления предполагаемого корпоративного шпиона. Компания заявила, что передала информацию ФБР, которое произвело арест 9 октября.
OpenAI сообщила Gizmodo, что сотрудник работал в отделе продуктов компании с июля прошлого года.
Согласно OpenAI, компания регулярно проводит проверки безопасности. Во время одной из таких проверок конференц-зала 30 сентября технические средства противодействия слежке обнаружили нечто подозрительное.
В заявлении, предоставленном Gizmodo, обнаруженное устройство названо «сложным записывающим устройством».
По данным OpenAI, устройство осуществляло аудиозапись и могло использоваться для передачи данных. Компания утверждает, что устройство использовало шифрование и было разработано скрытно.
Устройство, по-видимому, сохраняло данные. По словам OpenAI, следователи компании смогли загрузить образы хранилища и данные об изменениях в собственные модели ИИ. В сочетании с анализом следователей этот процесс с использованием ИИ позволил компании выйти на подозреваемого.
Согласно OpenAI, имеются доказательства того, что этот же сотрудник планировал установить дополнительные устройства.
Защита технологий ИИ от действий государственных субъектов считается приоритетом для Министерства финансов США. Например, Скотт Бессент выдвинул идею введения санкций против Китая за предполагаемое «дистиллирование» — метод копирования функциональности моделей ИИ, требующий минимальной секретности, не говоря уже о каком-либо прослушивании офиса OpenAI.
В заявлении OpenAI говорится, что у компании «нет никаких указаний на то, что это лицо неправомерно получило доступ или извлек веса моделей, исходный код или данные клиентов», и что оно было уволено.
По данным OpenAI, увольнение и арест подозреваемого произошли 9 октября, более чем через неделю после обнаружения устройства. Тем временем, по словам компании, объем работы подозреваемого и его доступ к системам постепенно ограничивались по мере углубления расследования. Это постепенное ограничение, по-видимому, завершилось полным отключением, после чего оборудование человека было изъято, а он был отправлен в отпуск.
«Мы серьезно относимся к защите наших технологий, данных и людей, и это имеет национальное значение. Наша программа безопасности разработана для защиты от широкого круга злоумышленников, от внутренних угроз до киберпреступников и национальных государств. Этот случай является примером того, как ИИ может помочь в решении этих сложных угроз безопасности».
«Расследование ФБР продолжается, и мы будем продолжать поддерживать их работу», — говорится в заявлении компании.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
