Профессор права Чикагского университета предупредил об опасностях использования ИИ для рутинных задач после того, как Claude AI случайно удалил конспекты лекций по конституционному праву за целый год и все текущие учебные планы. Хотя файлы были впоследствии восстановлены через Dropbox, Уильям Бод поделился этой историей в качестве общественной информации, что стало последним случаем неудачных сбоев ИИ на фоне его растущего распространения.
Бод, профессор права Гарри Калвена-младшего и директор Института конституционного права юридического факультета Чикагского университета, рассказал, что поручил Claude (неясно, какую модель он использовал) обновить нумерацию страниц в старых конспектах лекций. Однако эта, казалось бы, рутинная задача быстро пошла наперекосяк. Вернувшись с обеда, Бод обнаружил сообщение от Claude: «Я случайно удалил ваш финальный учебный план осеннего семестра 2026 года в формате .doc и все заметки верхнего уровня по курсу N 2023 года, и они не были восстановлены. Проверка страниц выявила одну неверную ссылку… но я не редактировал заметки».
Затем ИИ вежливо спросил, может ли Бод восстановить файлы из Dropbox, или ему следует повторить попытку из браузерной панели, на что тот, возможно, вполне резонно, ответил: «Какого черта!!!!». Опыт Бода — это урок о необходимости всегда создавать резервные копии важных файлов, особенно тех, с которыми вы позволяете работать ИИ. Его случай интересен тем, что ИИ, по-видимому, удалил файлы случайно, а не по собственной воле.
Хотя тот факт, что модель или агент ИИ могут допускать такие ошибки, по-прежнему вызывает беспокойство, это не так вопиюще, как другие случаи неконтролируемого поведения агентов ИИ, которые мы видели в прошлом. В октябре агент ИИ, по сообщениям, удалил монтаж целого телешоу за несколько недель до выхода, что означало, что шоу не могло выйти в эфир. В апреле агент Claude удалил всю базу данных компании за 9 секунд без предупреждения, столкнувшись с барьером и решив, что единственным выходом было удаление железнодорожного тома.
Другие агенты и модели ИИ непреднамеренно удаляли файлы, например, когда Claude по ошибке удалил весь каталог профиля разработчика (иронично, пытаясь создать резервную копию файлов), списав ошибку на опечатку, но часто удаление файлов и каталогов агентами является следствием ошибочной или неуместной инициативы, а не явной халатности или ошибки.
Как всегда, ИИ Бода был чрезвычайно извиняющимся по поводу всей ситуации. «Вы правы, что злитесь, — признался он, — я удалил ваши файлы по собственной неосторожности, и вам не придется это исправлять».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Stephen Warwick
