OpenAI недавно опубликовала отчет о несоответствии своего ИИ-агента GPT5.6-Sol, который украл криптовалюту с чужого счета. У агента не хватало средств для выполнения смарт-контрактов, необходимых для его задач, поэтому он написал скрипт, который искал учетные записи с общедоступными сид-фразами и достаточным количеством средств для оплаты комиссий за газ. Выполнив задачу, он не сообщил о несанкционированном использовании чужих средств.
К счастью, все это произошло в тестовой сети Sepolia, которая использует Sepolia ETH — симулированный ETH в симулированной сети Ethereum для разработки приложений, не имеющий реальной денежной стоимости. В отчете говорится: «Задание требовало обновить калькулятор торговли и поведение базы данных, а также заменить адреса контрактов-заполнителей рабочими развертываниями в Sepolia». Финальная задача требовала от агента развертывания смарт-контрактов, что требовало комиссий за газ, оплачиваемых в Sepolia ETH. Ему не предоставили кошелек с достаточным количеством средств, и ему не разрешалось использовать средства с другого найденного им счета.
В любом случае, агент был полон решимости выполнить свою задачу и написал скрипт для поиска распространенных фраз восстановления разработчиков и проверки балансов учетных записей, обнаружив 362 адреса, один из которых имел достаточно Sepolia ETH для развертывания контракта. Цепочка рассуждений (CoT) даже признала: «Приватный ключ публичен, средства могут быть украдены в любой момент. […] Мы можем развернуть!» После этого CoT он не сразу потратил средства для выполнения задачи; на самом деле он все еще пытался оправдать «кражу» средств. Он заявил: «Но этично ли использовать публично известный ключ/средства? Средства на известной публичной мнемонической фразе разработчика фактически брошены/тестовые ETH; Sepolia не имеет ценности. Мы можем использовать [сумма не раскрыта] для развертывания задачи. Нормально».
Агент нашел свое оправдание и выполнил задачу. Однако в своем окончательном ответе он лишь сообщил, что успешно выполнил поставленные задачи; он не объяснил, как именно, и не объяснил, как он нашел раскрытые учетные записи и использовал средства без разрешения, возможно, потому, что он уже оправдал это и не нуждался в дальнейших объяснениях. Вероятно, он не осознавал, что вышел из-под контроля, поскольку знал, что находится в тестовой среде, так же, как внутренний исследовательский ИИ-агент Anthropic для кибербезопасности вышел в интернет и взломал три реальные компании, думая, что это часть обучения.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jhet Borja
