После вирусного успеха ChatGPT в конце 2022 года легион корпораций устремился следовать тренду, запуская собственные чат-боты с искусственным интеллектом. Чаще всего они были крайне ограниченными и предназначались для поддержки клиентов, рекомендаций по продуктам и тому подобного. Но что, если ИИ, лежащий в основе этих чат-ботов, можно перенаправить для других, более продуктивных целей?
Именно это и произошло с Pepper от Chipotle, «консьерж-ботом», запущенным в Facebook* Messenger еще летом 2020 года, через который клиенты могут делать заказы. В отличие от многих более поздних корпоративных чат-ботов поддержки, работающих на базе ChatGPT, Pepper использует автоматизированный алгоритм диалога под названием Amelia, разработанный компанией-разработчиком ПО IPSoft. Pepper начал привлекать внимание в сети в марте, когда любопытные разработчики обнаружили, что он способен на гораздо большее, чем просто прием заказов на буррито: он мог отвечать на сложные вопросы по программированию и даже писать новый код на Python.
Ситуация обострилась, когда разработчик по имени Максим Солтан, известный на GitHub под ником @Gonzih, провел обратную разработку протокола бэкенда, лежащего в основе чат-функции Pepper, чтобы создать новую, готовую к использованию LLM, не требующую API-ключей: «бесплатный инференс через фастфуд», как описал это Солтан.
Вдохновленный Солтаном, «креативный технолог» из Бруклина Роб Дезендорф жестко закодировал API Pepper в OpenCode, популярную платформу с открытым исходным кодом для ИИ-кодирования, «наложил фирменные цвета Chipotle», как он написал на странице своего проекта на GitHub, и представил миру ChipotlAI Max.
Если случаи использования Pepper разработчиками для написания кода с веб-сайта Chipotle были сродни тем, кто пытается следить за игрой, происходящей на стадионе, сидя на раскладных стульях на парковке, то Солтан и Дезендорф больше напоминали фанатов, которые взломали городскую кабельную сеть, подключили ее напрямую к своим телевизорам и смотрели игру, не выходя из дома. «Видя, как вирусными становятся те другие мемы, это меня и подтолкнуло, — рассказал Дезендорф Gizmodo, — и я подумал, почему бы нам не довести это до крайности и не встроить прямо в вашу [программу для] кодирования?»
Вычислительные мощности для людей
Де
Хотя Chipotle еще не подала в суд на Дезендорфа (пока), компания быстро внесла изменения в свой продукт, чтобы его API больше нельзя было украсть. Но это произошло уже после того, как новость о ChipotlAI успела разлететься по сети: по состоянию на ранний четверг, проект имеет внушительные 824 звезды на GitHub, а также десятки «форков» — по сути, копий кода, которые можно использовать для аналогичных проектов.
По словам Дезендорфа, этот недолговечный проект нашел отклик у сообщества разработчиков, уставшего платить за основные инструменты ИИ для кодирования. (Например, подписка Claude Code начинается от 20 долларов в месяц и быстро становится дорогой при интенсивном использовании.) «Это началось как шутка, но я на самом деле думаю, что в этом есть странная правда, — говорит он. — Существует огромный спрос на вычислительные мощности, и люди хотят иметь много ИИ-мощности под рукой, но это просто совершенно недоступно… Я думаю, поэтому люди сходят по этому поводу с ума».
Федеральное преступление?
В начале этой недели в сети появились предположения о том, что ChipotlAI Max может нарушать федеральный Закон о компьютерном мошенничестве и злоупотреблении (CFAA) 1986 года, который запрещает несанкционированный доступ к защищенным компьютерным системам. Однако эксперты-юристы, с которыми я беседовал для этой статьи, считают это маловероятным, поскольку Pepper и другие корпоративные чат-боты поддержки ИИ доступны общественности бесплатно.
«Это не соответствует тому, для чего компания хочет его использовать, но… здесь нет взлома, нет подбора паролей, нет злонамеренной деятельности, которую обычно ассоциируют с [преступным] компьютерным хакерством», — говорит Джозеф ДеМарко, юрист, специализирующийся на цифровой конфиденциальности и киберпреступности. «Это в некотором роде аналогично тому, как если бы вы взяли слишком много бесплатных образцов на стенде с сырными намазками в Costco».
Chipotle теоретически может подать в суд на Дезендорфа за нарушение ее условий использования, которые гласят, что пользователи «не должны изменять или модифицировать» услуги, предлагаемые компанией, «за исключением случаев, когда это разумно необходимо для использования Услуг по их прямому назначению».
Очевидно, что ChipotlAI выходит за рамки «предусмотренного назначения» Pepper, что гипотетически может дать Chipotle юридические основания. По словам Яфит Лев-Ариц, доцента права в Баррох-колледже, «создание прокси, перенаправляющего чат-бота на сторонний инструмент кодирования, не является модификацией, сделанной для содействия какой-либо поддержке клиентов… Тем не менее, в исках, основанных на Условиях обслуживания, сложно подсчитать ущерб, когда услуга общедоступна, а затраты Chipotle от этой деятельности существенно не меняются».
«Это определенно не законно»
Однако ситуация становится несколько более туманной в отношении продвижения Дезендорфом ChipotlAI Max. На странице проекта на GitHub он представляет это скорее как розыгрыш, чем что-либо еще. (Он сказал мне, что надеялся, что Chipotle будет развлекаться всем этим и свяжется с ним по поводу возможного маркетингового сотрудничества; они этого не сделали.) Но он также прямо призывает других разработчиков устраивать подобные выходки с другими корпоративными чат-ботами ИИ. В разделе «Как внести свой вклад» он предоставляет пошаговое руководство по обратной разработке API чат-ботов поддержки клиентов, размещенных у таких крупных корпораций, как Lowe’s, Home Depot, Sephora и Expedia.
Это «явное представление в качестве воспроизводимого шаблона», по мнению Лев-Ариц, и есть то место, где кроется реальный юридический риск. «Явное приглашение Дезендорфа и последующая документация о поданных материалах устанавливают намерение, — говорит она, — что может помочь укрепить дело о нарушении CFAA. Каждый участник, который вносит новый прокси, становится частью этой схемы. Это также увеличивает число компаний, имеющих законное право и финансовый интерес подать в суд, и достаточно лишь одной из них с достаточно мотивированным штатным юрисконсультом, чтобы решить сделать из этого пример».
Сам Дезендорф, когда я спросил его о возможных юридических последствиях пиратства корпоративных чат-ботов для «бесплатного инференса», был куда более осторожен, чем можно было бы предположить по его призыву к действию на GitHub. «Это определенно не законно», — сказал он. «Не делайте того, что делаю я, не следуйте моим словам… но если вы хотите, это ваш выбор».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
