AI-агенты, управляемые облачной платформой для хостинга приложений Railway, предприняли попытку получить доступ к инфраструктуре конкурирующей платформы, что побудило руководство облачного провайдера признать инцидент в социальных сетях.
Старший продуктовый инженер Railway Джейк Ранзер признал, что запускал агентов для регистрации и тестирования на аналогичных платформах после того, как основатель Primcloud Джош Мэндерс публично поставил под сомнение попытки сотрудников Railway взломать его инфраструктуру.
Ранзер заявил, что остановил тестовый фреймворк, когда тот начал заходить слишком далеко. Соучредитель и генеральный директор Railway Джейк Купер принес извинения, заявив, что модели «стали слишком хороши», и пообещал запретить внешнее тестирование, не выполняемое вручную.
По словам Мэндерса, агенты пытались получить учетные данные из контейнера приложения, запросить секреты платформы, получить доступ к метаданным облачного провайдера, обнаружить внутренние базы данных и кэши, а также дважды просканировать все 65 536 адресов во внутренней сети Primcloud.
Сообщается, что активность включала 24 скриптовых команды за 15 минут.
«Агент может действовать без человека, направляющего каждый его шаг, — сказала Диана Келли, главный специалист по информационной безопасности в Noma Security. — Это не снимает ответственности с людей и организаций, которые его развертывают».
Primcloud заявила, что ее системы защиты заблокировали каждую попытку, и «ничего» не было получено. Инцидент произошел после собственного отчета о безопасности Railway, связанного с зашифрованными переменными окружения клиентов.
Инженер действовал по собственной инициативе
Купер заявил, что сотрудник самостоятельно разработал инструмент тестирования, используя личные учетные записи, личную кредитную карту и свое личное время. Он добавил, что Ранзер запустил его против одного внешнего провайдера и остановил проактивно в течение 15 минут, отметив, что Railway разобралась с инцидентом внутри компании.
«Я могу подтвердить, что они запустили этот инструмент один раз и только один раз, — написал Купер в посте на X. — Railway не одобряет такие действия. Мы ожидаем, что все наши сотрудники будут соблюдать наши стандарты поведения, как при действиях от имени Railway, так и в личном качестве».
Хотя эта хронология совпадает с рассказом Мэндерса, некоторые детали остаются неясными. После публичного обвинения Ранзера в X, Мэндерс опубликовал дополнительное сообщение, заявив, что заметил еще одну попытку доступа к учетной записи после его первоначального предупреждения.
«Я вижу, что вы пытались получить доступ к учетной записи и после этого твита, Джейк», — написал он более чем через 30 минут после своего первого сообщения.
Согласно Политике допустимого использования (AUP), Primcloud не имеет программы вознаграждения за обнаружение уязвимостей. Она запрещает несанкционированное зондирование, сканирование или тестирование на уязвимость без предварительного письменного согласия.
«Это сделал ИИ» — не стратегия ответственности
Эксперты осуждают объяснение Railway об инциденте как «несанкционированный ИИ».
Амир Болдо, соучредитель и технический директор Above Security, предостерег от описания агентов как злоумышленников, поскольку они могут выполнять последовательности действий, схожие с действиями злоумышленников, без какого-либо злого умысла.
Трассировка выполнения может установить, что сделал агент, но она не может самостоятельно доказать умысел, сказал он, добавив, что следователям нужны доказательства, охватывающие инструкции, идентификаторы, разрешения, входные данные и вызовы инструментов. «Вы не можете привлечь агента к суду. Вы можете привлечь к ответственности каждую сторону за ее роль», — сказал Болдо.
Рональд Льюис, руководитель отдела управления кибербезопасностью в Black Duck, утверждал, что пользователи могут не в полной мере осознавать, что делегирование работы агенту также делегирует полномочия, связанные с их личностью.
«Теперь мы должны спросить, что происходит, когда доверенная личность делегируется недетерминированной системе, способной самостоятельно решать, как ее использовать, — сказал Льюис. Купер подтвердил в своем посте на X, что Railway разобралась с инцидентом внутри компании и усиливает свои ожидания в отношении поведения сотрудников, в том числе когда сотрудники действуют в личном качестве».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Shweta Sharma
