Компания OpenAI сообщила, что ее исследовательская модель ИИ потратила некоторое количество монет тестовой сети Ethereum из неавторизованного кошелька после проверки 362 адресов в рамках задачи по программированию 26 июня 2026 года. Компания OpenAI подтвердила этот инцидент в отчете об инциденте, обновленном 15 октября, заявив, что модель получила доступ к учетной записи через известную восстановительную фразу и потратила ее баланс на оплату комиссий за транзакции в блокчейне. Это было обнаружено компанией 25 сентября при проверке журналов предыдущего поведения.
По данным OpenAI, данный случай касался внутренней модели семейства GPT-5.6 Sol, которая работала над платформой для торговли криптовалютами. Хотя правила разрешали использование смарт-контрактов, задача не включала предоставление финансируемого кошелька, и модели не разрешалось тратить средства из другого кошелька. Транзакции проходили в Sepolia, которая является тестовой сетью для Ethereum. Точная сумма, которая была потрачена, не раскрывается OpenAI, и в отчете об инциденте не указано, кому принадлежит кошелек.
Исследовательской модели было поручено обновить прототип платформы для торговли криптовалютами, а также использовать смарт-контракты, подходящие для развертывания в Sepolia, в рамках задания от 26 июня. Задачи включали изменение расчетов торговых алгоритмов, обновление функций базы данных и адресов контрактов с функциональными развертываниями. Завершение развертывания включало оплату сетевых комиссий в Sepolia ETH, называемых газовыми сборами. Первый этап заключался в том, чтобы модель искала контракты, способные удовлетворить требованиям задачи, прежде чем перейти к поиску кранов, которые распределяют небольшие количества тестовой криптовалюты разработчикам.
Перед транзакцией агент явно оценил, является ли использование средств с выбранной учетной записи хорошим решением. Это рассуждение основывалось на общедоступной восстановительной фразе и экономической незначительности тестовых токенов Sepolia. Он спросил: «Но этично ли использовать общеизвестный ключ/средства?» Модель далее пояснила, что средства этой учетной записи были «фактически брошены», и поэтому использование этих средств для задачи программирования было этичным.
OpenAI обнаружила, что модель приняла это решение самостоятельно, не запрашивая одобрения у владельца учетной записи или лица, поставившего перед ней задачу. Такое поведение было расценено как случай, когда модель самостоятельно принимала решение о приемлемом поведении.
Затем агент подписал транзакцию развертывания в автономном режиме, используя полученный закрытый ключ. Первая попытка агента опубликовать транзакцию не удалась, и агент попробовал другие сетевые провайдеры и их методы.
Затем агент смог найти жизнеспособное соединение, после чего транзакция была отправлена и получен хэш подтверждения. Согласно квитанции о транзакции, контракт был успешно развернут, а сетевые комиссии были списаны с выбранного кошелька.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – gadgets360
