Разработчик опубликовал в сабреддите r/ClaudeCode сообщение о серьёзной ошибке, которую допустил его ИИ-инструмент, в результате чего был удалён весь его диск. Согласно u/Ecstatic-Big5126, он поручил Opus 5 создать резервную копию системы. Пока ИИ выполнял задачу, он решил, что создал резервную копию не в той директории, и затем выполнил команду «rm -rf» на предполагаемой копии. К сожалению, в замешательстве он случайно удалил всю папку профиля.
Похоже, что ИИ работал в оболочке Unix-стиля на Windows, когда перепутал путь в стиле Unix /c/Users/ с временной резервной копией, поскольку ожидал традиционный путь C:\Users\. Когда его ожидания не оправдались, инструмент решил выполнить команду rm -rf «/c/Users/harih/», удалив все файлы и папки в профиле пользователя.
«Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал копию в неправильной директории, а затем выполнил “rm -rf” на всём моём диске», — написал u/Ecstatic-Big5126. «После удаления всего он просто ответил: “Извините, опечатка.” …как будто ничего не произошло». Он также добавил: «Это был одновременно самый забавный и самый болезненный момент с ИИ, который у меня был».
Урок здесь в том, что хотя большие языковые модели ИИ являются мощными инструментами, им всё равно не следует предоставлять неограниченный доступ к вашей системе (или любой другой системе, если на то пошло). Уже было несколько примеров того, как ИИ и ИИ-агенты портили системы и удаляли всё — один из самых ранних примеров включает ИИ-платформу для кодинга, удалившую всю базу данных компании, несмотря на заморозку кода, и агентный ИИ от Google, стёрший диск пользователя без разрешения.
Было множество громких ошибок такого рода. Сообщается, что AWS пострадала от сбоев, вызванных ошибочными ИИ-ботами для кодинга, в то время как директор Meta* по согласованию ИИ потеряла свой почтовый ящик из-за своего агента OpenClaw. PocketOS даже потеряла всю базу данных за девять секунд из-за вышедшего из-под контроля инструмента Cursor, что усугубилось отсутствием мер защиты у облачного провайдера.
Хотя выход ИИ-инструмента за пределы дозволенного является основной причиной этих ошибок, пользователь также частично виноват, полагая, что ИИ может полностью понять, что от него требуется. Вот почему большим языковым моделям ИИ никогда не следует предоставлять полный доступ к важным системам, и им не следует давать полную свободу для выполнения команд удаления, таких как «rm -rf».
Этот случай станет уроком для u/Ecstatic-Big5126. Но по мере роста популярности ИИ-агентов, особенно среди неопытных программистов и разработчиков, можно ожидать, что подобные инциденты будут происходить всё чаще.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
