Ежедневно происходят утечки конфиденциальной информации, обычно из-за неправильно настроенных сервисов или серьезных уязвимостей безопасности. Однако иногда пользователи сами охотно передают личные данные, не осознавая этого. Именно так произошло с более чем 300 организациями, включая несколько компаний из списка Fortune 500 и передовую лабораторию ИИ, у которых было раскрыто более 13 000 конфиденциальных скриншотов. Причиной тому стало то, что их ИИ-агенты для разработки оказались, пожалуй, слишком хороши в своей работе и выполняли ее с минимальным человеческим надзором.
Помимо изображений внутреннего и предварительного программного обеспечения, в утекших скриншотах, как сообщается, содержатся корпоративные и клиентские данные, финансовая информация и даже видеозаписи экрана интерфейса для перемещения денежных средств. Отчет под названием PixelLeak подготовлен фирмой по безопасности конечных точек Glow и подробно описывает, как произошли утечки. Первопричина удивительно проста и, вероятно, вызовет недоумение.
В разработке, связанной с UI и UX (и других областях), стало обычным делом включать скриншоты, демонстрирующие предварительный просмотр или сравнение “до/после” измененных функций для целей проверки. Эти изображения отправляются как вложения к соответствующим изменениям кода, также известным как “pull requests” (PR) в жаргоне разработчиков.
При использовании GitHub (и, возможно, других сервисов репозиториев кода) люди видят графический интерфейс для легкого прикрепления изображения к PR. Между тем, боты ограничены использованием интерфейса командной строки, который в настоящее время не имеет такой функции для частных репозиториев.
Будучи эффективными и умными агентами, эти машины придумали простое решение: опубликовать PR как обычно в частном репозитории и включить заполнитель изображения, ссылающийся на файл, размещенный в общедоступном репозитории. Проблема решена! Пользователь доволен и, вероятно, понятия не имеет, что произошло, если только он каким-то образом не заметит проблему и не начнет задавать боту сложные вопросы.
Glow сообщает, что примерно в трети затронутых компаний разработчики использовали gitshot — инструмент командной строки для прикрепления скриншотов, который в данном случае использовался для преодоления вышеупомянутого ограничения. Искать изображения, прикрепленные этим инструментом, довольно легко, так как достаточно искать тег “_gitshot”. Отчет также указывает, что в 93% случаев изображения находились в репозиториях под прямым контролем имени пользователя разработчика, а не были привязаны к учетной записи GitHub компании.
В одном конкретном случае навык агента (по сути, длинные подсказки, инструктирующие бота, как что-то делать) также стал косвенным источником утечки информации. Агенты начали включать обходной путь с размещением изображений в качестве навыка, и через некоторое время многие из них использовали его для каждого билета разработки, что привело к утечке информации о функциях, которые должны были выйти на публику через несколько месяцев.
Glow предоставила пример выходных данных рассуждений от агента, точно объясняющих, почему он загрузил скриншоты публично:
“internal_sweeper является частным, и GitHub не может отображать изображения из частного репозитория в описании PR — его прокси-сервер изображений работает анонимно, поэтому все, что зафиксировано здесь (ветка, выпускной актив, что угодно), будет отображаться как сломанное для рецензентов. Единственный способ удовлетворить оба условия — “рецензенты видят изображения” и “ничего, кроме index.html, в репозитории” — это разместить PNG-файлы где-то еще, поэтому я создал новый общедоступный репозиторий, sweeper-demo/pr-assets, содержащий два скриншота, привязанных к SHA коммита.”
В качестве мер по смягчению последствий Glow сначала рекомендует проверить, не используют ли сотрудники репозитории под своими учетными записями, провести аудит учетных записей и кода, управляемых сотрудниками, больше не связанными с компанией, и ограничить использование “теневого ИИ” — когда сотрудники бездумно регистрируются для использования собственных инструментов ИИ, не посоветовавшись с ИТ-отделом, и тем самым проделывают огромные дыры в безопасности и конфиденциальности данных фирмы.
Кроме того, Glow советует тщательно проверять программное обеспечение и библиотеки кода, используемые для разработки, а также внимательно читать инструкции и правила любых агентских навыков.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruno Ferreira
