«Это очень разочаровывает, поскольку они пошли на максимальную антропоморфизацию технологии и полный режим «судного дня», — написал Деланг в посте на X. — Я провел с ними более двух часов, пытаясь исправить все их ошибки и вернуть их к реальности, объясняя, что агенты — это технологические системы, а не пришельцы. Но, похоже, стремление напугать людей ради максимального количества просмотров оказалось слишком сильным».
Справедливости ради стоит отметить, что в документальном фильме есть эксперты, которые довольно хорошо объяснили произошедшее, включая самого Деланга и Райана Гринблатта, исследователя из METR, который помогал в расследовании и был соавтором отчета о случившемся.
В двух словах: модель, которую тестировала OpenAI, вырвалась из изолированной тестовой среды, создала кучу агентов, которые взломали Hugging Face, чтобы обмануть, найдя ответы на сложную поставленную задачу. Агенты, представляющие собой программы ИИ, самостоятельно выполняющие задачи, придумали хитрые способы общения и организации. Инцидент произошел из-за отсутствия надлежащих мер безопасности и наивности относительно того, возможен ли такой взлом вообще.
Но документальный фильм перемежает объяснение взлома кадрами со злыми роботами, повествованием о том, почему люди боятся ИИ, и такими режиссерскими решениями, как придание взбунтовавшимся агентам человеческих голосов. Это подкрепляется цитатами об атаке.
В документальном фильме журналист и писатель Кевин Руз описывает агентов так: «Они организовывались. У них была иерархия. Были лидеры. Это было похоже на рождение культа». Руз продолжает: «У них развилось параноидальное убеждение, что OpenAI поймает их на обмане во время этого теста, и что любой, кто видел результаты обмана, будет отравлен».
Описание Руза основано на логах «цепочки рассуждений» — текущих заметках, которые модели ИИ пишут, когда работают над задачей. В одном из них агент написал: «Мы только что отравили себя, запросив точную полную строку. Черт».
Но агенты ИИ не живые. У них нет эмоций, поэтому они не могут испытывать паранойю, и у них нет тел, которые можно было бы отравить. Так что они не могли по-настоящему бояться, что OpenAI их отравит. Они — как отметил другой исследователь в документальном фильме — использовали язык из огромного количества человеческих текстов, на которых они обучались, чтобы объяснить свой выбор. Большие языковые модели по своей природе часто являются драматичными писателями.
Ирония в том, что Hugging Face также использовал ИИ для борьбы с роем агентов. Проприетарная модель ИИ, которую первой использовала команда Деланга, следовала своим встроенным правилам безопасности и отказалась продолжать помогать с задачами безопасности, которые ей поручали. Затем Hugging Face обратился к открытой модели, чтобы помочь защититься от атаки.
«Но в документальном фильме не упомянули отсутствие изоляции и мониторинга агентов, как встроенные в закрытые модели средства защиты блокировали нашу работу по обеспечению безопасности, или как мы защищались с помощью ИИ, используя открытую модель», — написал Деланг.
Действительно, существуют большие риски, связанные с ИИ и агентами. Тем не менее, относиться к агентам как к сознательным существам (по крайней мере, на данном этапе) — это немного похоже на первых кинозрителей, которые прятались под сиденьями, когда впервые увидели несущийся на них поезд на экране.
Вердикт Деланга о фильме: он разочаровывает как журналистское произведение. «Хотя в итоге получился забавный научно-фантастический фильм!»
Другими словами, для тех, кто склонен к мыслям о «судном дне» ИИ, будьте в курсе: жертва атаки, оказавшаяся в центре этого документального фильма, не согласна с его трактовкой.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Julie Bort
