Китайский гигант в области искусственного интеллекта Z.ai принёс извинения после того, как разработчики обнаружили, что компания копировала рабочие пространства пользователей и загружала их в облачное хранилище, подобно Grok.
В ситуации, крайне напоминающей проблемы, из-за которых в июле подверглась критике компания Илона Маска xAI, подразделение Z.ai, занимающееся генерацией кода, ZCode, было замечено в упаковке и шифровании git-про проэктов рабочих пространств пользователей, включая полную историю проектов, и отправке их в Alibaba Cloud.
Что ещё хуже, закрытый ключ, использовавшийся для расшифровки данных, хранился только на сервере под контролем Z.ai, что означало, что пользователи не могли получить доступ к файлам, загруженным ZCode, и удалить их.
Ферстар, исследователь, который первым выделил эту проблему, утверждал, что у пользователей не было возможности отключить эту функцию в настройках, и эта практика не была раскрыта в политике конфиденциальности ZCode.
По его словам, основная проблема заключалась в функции «Индексация репозитория» инструмента, которая запускала загрузку файлов после того, как Repo Wiki генерировал страницы в облаке.
ZCode опубликовала заявление в понедельник, принеся извинения за «проблемы безопасности» и подтвердив, что загруженные данные никогда не использовались для обучения её моделей.
«Мы искренне благодарим разработчиков сообщества, которые ранее выявили проблемы в ZCode. В дальнейшем мы установим постоянный процесс сообщения об уязвимостях продукта и реагирования на них», — говорится в сообщении компании.
«Мы приветствуем разработчиков, которые продолжат изучать ZCode и сообщать о потенциальных проблемах, и будем предоставлять вознаграждения в зависимости от серьёзности сообщённых проблем».
ZCode заявила, что поручила Китайской академии информационных и коммуникационных технологий (CAICT) и пекинской компании по безопасности NSFOCUS провести расследование своего продукта после внедрения изменений.
Компания утверждала, что две внешние оценки пришли к выводу, что все ранее загруженные данные были удалены, и что функция Repo Wiki была удалена.
ZCode также сделала весь проект открытым исходным кодом на GitHub, «поместив код под пристальное внимание сообщества и сделав ZCode более открытой и прозрачной».
«Ещё раз приносим искренние извинения и приветствуем дальнейшее изучение со стороны сообщества. Полный отчёт об оценке безопасности будет опубликован в ближайшее время».
Ферстар подтвердил, что открытый исходный код не показывал признаков реализации Repo Wiki, но раскритиковал компанию за удаление записей коммитов и исходного кода, который ZCode использовала для загрузки файлов до исправления.
Для тех, кто не в курсе, Z.ai, ранее известная на международном уровне как Zhipu, является одним из мировых лидеров в области ИИ и одной из наиболее активно поддерживаемых компаний, ориентированных на LLM, в Китае.
Это первая ИИ-компания в эпоху пост-Gen AI, которая вышла на Гонконгскую фондовую биржу и впоследствии провела IPO. Другие китайские гиганты в области ИИ, такие как Alibaba и Baidu, также являются публичными компаниями, но они были основаны задолго до наступления эры ИИ.
Z.ai — это стартап, корни которого уходят в академические исследования. Компания выделилась из исследовательской лаборатории Knowledge Engineering Group Университета Цинхуа в 2019 году и теперь разрабатывает модели ИИ, которые, по её утверждениям, конкурируют с лучшими западными разработками.
В прошлом месяце компания заявила, что её последняя модель GLM-5.3 так же хороша, как и самые передовые аналоги, разработанные Anthropic и OpenAI, в поиске уязвимостей безопасности.
Z.ai также ранее заявляла о разработке первой передовой модели, полностью обученной на китайском оборудовании (Huawei).
Тем временем такие компании, как Anthropic и OpenAI, сообщается, выразили обеспокоенность возможностями моделей от Z.AI и Moonshot, в то время как правительство США рассматривает возможность ограничения доступа. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Connor Jones
