Инструменты для написания кода на базе ИИ, такие как GitHub Copilot и Codex, требуют доступа к исходному коду для понимания проектов и внесения изменений. Однако недавно исследователь в области безопасности обнаружил, что Grok Build — недавно запущенный агент для написания кода от SpaceXAI — работает с кодом неправильно.
Согласно его техническому анализу, интерфейс командной строки Grok Build загружал целые Git-репозитории в корзину Google Cloud Storage. Да, целиком! Переданные данные включали полную историю Git, приватный исходный код и потенциально конфиденциальные файлы, содержащие учётные данные, API-ключи и другие секреты.
Исследователь также утверждает, что загрузка происходила даже тогда, когда агенту было дано указание не читать файлы проекта. Он подчеркнул, что отключение опции «Улучшить модель» не остановило загрузку репозиториев. Настройка «Улучшить модель», по-видимому, управляет тем, могут ли данные использоваться для обучения модели, а не тем, загружаются ли они для обработки.
Сотрудники SpaceXAI оспорили утверждения о том, что компания бессрочно хранит загруженный код. Они написали в X, что CLI с момента запуска поддерживает нулевое хранение данных (Zero Data Retention, ZDR). Пользователи, у которых ZDR не включён, могут выполнить команду /privacy, чтобы изменить свои настройки и удалить ранее синхронизированные данные.
Комментируя эту проблему, Илон Маск заявил, что хранение некоторого объёма данных на самом деле полезно для отладки. Позже он подтвердил, что ранее загруженная информация будет удалена. Он написал, что в качестве меры предосторожности SpaceXAI «полностью и без остатка» удалит все пользовательские данные, загруженные до этого объявления.
Компания пока не опубликовала подробный отчёт по безопасности, в котором объяснялось бы, какие именно файлы были загружены, как долго они хранились и когда будет завершён процесс удаления. Разработчикам, использующим Grok Build, рекомендуется проверить свою конфигурацию конфиденциальности с помощью команды /privacy. Тем, кто использовал инструмент с репозиториями, содержащими API-ключи или другие секреты, также стоит в качестве меры предосторожности сменить эти учётные данные.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pradeep Viswanathan
