Агенты по бронированию путешествий, созданные не человеком, уже здесь. Недавно авиакомпания Virgin Atlantic представила на своем веб-сайте ИИ-агента по бронированию путешествий, назвав чат-бота «будущим планирования поездок».
Проект под названием Virgin Atlantic Concierge был реализован британской консалтинговой компанией в области ИИ Tomoro в партнерстве с OpenAI.
Сервис Concierge поддерживает ввод текста или голоса, при условии, что посетитель сайта Virgin Atlantic предоставил разрешение на активацию микрофона устройства. Бот, который может отвечать с помощью имитации речи, а также текста, обрабатывает голосовой ввод дольше, чем текстовый, предположительно потому, что ему приходится обрабатывать захваченное аудио с помощью модели преобразования речи в текст.
Сэм Незервуд, соучредитель и директор Tomoro, рассказал The Register о разработке Concierge и целях проекта.
«Изначально Virgin обратилась к нам», — сказал Незервуд. «Мы тесно сотрудничаем с OpenAI. Virgin также уже заключила соглашение с OpenAI. Так все и началось. Изначально мы просто сделали прототип примерно за шесть недель».
По его словам, цель заключалась в проверке гипотез о том, сможет ли технология обеспечить ценное взаимодействие с ИИ, и в изучении того, как этот опыт может ощущаться с точки зрения потребителя в свете амбиций Virgin Atlantic.
«Итак, прототип, который мы создали, использовал модель преобразования речи в речь в реальном времени от OpenAI», — сказал Незервуд. «Она разработана для сверхнизкой задержки, очень естественной, человекоподобной беседы. Но остаются некоторые вопросы относительно интеллекта этой модели».
Concierge — это агент, то есть модель ИИ, имеющая доступ к инструментам и API. Как отметил Незервуд, агент не будет работать, если у него нет доступа к API Virgin Atlantic для получения информации о рейсах и бронирования поездок — он не будет полезен, если будет обрабатывать только подмножество предопределенных маршрутов или определенных праздников. Агент также должен уметь определять намерение пользователя, чтобы правильно различать запросы на поддержку, планирование поездок и другие сценарии.
«Поэтому следование инструкциям должно быть очень хорошим», — сказал он. «Использование инструментов должно быть очень хорошим. И на самом деле в прототипе мы сказали: «Я не думаю, что мы пока готовы»».
Тогда API Realtime от OpenAI находился в бета-тестировании. В августе API Realtime стал общедоступным, и проект продвинулся к публичному выпуску.
«Теперь у нас есть лучшая версия», — сказал Незервуд. «Я думаю, мы, вероятно, уже недалеко от того, чтобы достичь точности использования инструментов и следования инструкциям, чтобы улучшить взаимодействие с гораздо более естественным диалогом, что действительно было одной из основополагающих задач, которые Virgin Atlantic поставила перед нами».
Новая инфраструктура не потребовалась. Незервуд сказал, что, хотя граничные вычисления (edge computing) обещают возможность расширить функциональность Concierge, например, для взаимодействия при посадке на самолет, основное внимание при первоначальном выпуске было уделено веб-порталу.
«На данный момент», — сказал Незервуд, — «мы встроены только на веб-сайт Virgin Atlantic, без какой-либо аутентификации, и причина этого в том, что скоро появится их мобильное приложение — они построили новое мобильное приложение с нуля. Я думаю, что когда Concierge будет подключен к учетной записи, к идентификатору пользователя, он станет намного ценнее, потому что маршрут, созданный агентом, сможет сохраняться во времени и пополняться».
В настоящее время, как пояснил Незервуд, агент имеет доступ к API Virgin Atlantic по рейсам и отпускам, что позволяет ему находить и бронировать рейсы, а также планировать отпуск. Он может отвечать на вопросы о программе лояльности Flying Club компании и оказывать базовую поддержку с целью снижения нагрузки на колл-центры.
Незервуд не смог предоставить разбивку по типам запросов, но сказал, что многие люди просто хотят получить ответы на базовые вопросы поддержки, касающиеся норм провоза багажа и тому подобного. В случае непредвиденных событий, таких как сбои в работе аэропорта, агент будет перенаправлять на веб-сайт, если у него нет соответствующей информации.
Concierge в его нынешнем виде также не завершает транзакции по поездкам — он глубоко интегрирован с веб-сайтом Virgin Atlantic для обработки покупок по кредитным картам. Однако Незервуд сказал, что в мобильном приложении это изменится.
Незервуд сказал, что безопасность была первостепенной задачей.
«Огромная часть этого MVP [минимально жизнеспособного продукта], огромное внимание уделялось безопасности, потому что мы не находимся за системой входа или аутентификации», — сказал он. «Любой может прийти и использовать это. Поэтому злонамеренное поведение, внедрение подсказок, взлом — все это становится очень серьезной проблемой».
Он сказал, что Tomoro имеет большой опыт работы с системами защиты и имеет надежную многоступенчатую систему для обеспечения безопасности таких решений, поэтому не было необходимости предпринимать что-то особенно новое в плане безопасности.
«С этой точки зрения, я думаю, самое интересное — это на самом деле диалоговый дизайн и то, как легко можно сломать и полностью уничтожить иллюзию интеллекта в этих системах», — сказал он.
В качестве примера он привел системы защиты Concierge от отклонения от темы, предназначенные для поддержания релевантности разговоров теме путешествий. Если вы не были осторожны при проектировании диалогового пространства, предоставляя контекст и историю разговора, сказал он, естественные взаимодействия, такие как когда люди говорят «спасибо» или «нет» в ответ на вопрос, могут сбить систему с толку.
«На севере Англии люди используют слово ‘ta’ вместо ‘спасибо’», — сказал Незервуд. «У нас было несколько случаев, когда кто-то сказал агенту ‘ta’, и он подумал, что они говорят по-шведски. Поэтому он ответил по-шведски: «Привет, извините, пока только английский язык»».
Незервуд сказал, что его команда проделала огромную работу, пытаясь сбалансировать безопасность с обеспечением того, чтобы агент мог вести естественный диалог, который меняется между различными намерениями.
Что касается стоимости эксплуатации бота, Незервуд настаивал на том, что вызовы API и бэкэнд-инфраструктура не так уж дороги. «В будущем мы будем исследовать модели рассуждений, особенно при построении сложных маршрутов, когда мы можем позволить себе задержку в разговоре», — сказал он. «Но прямо сейчас [стоимость] довольно незначительна».
Модели рассуждений обычно стоят дороже в эксплуатации, чем их аналоги без рассуждений, потому что они обрабатывают больше токенов за определенное время. Но это может быть необходимо, чтобы помочь Concierge и другим агентам учитывать требования сложных маршрутов, такие как расстояния между пунктами назначения и время в пути.
Незервуд сказал, что при построении сложного маршрута нужно быть очень осторожным, чтобы убедиться, что агент обладает достаточной ситуационной осведомленностью. В противном случае, предположил он, может возникнуть ситуация, когда вы попросите агента забронировать столик в ресторане, а он потребует 75-минутную поездку на такси, несмотря на то, что вы уже забронировали посещение музея за 30 минут до времени бронирования.
«Модели способны [планировать маршруты]», — сказал он. «Я думаю, они будут очень способны к этому, теперь, когда у нас есть более эффективные модели рассуждений».
Незервуд сказал, что запуск Concierge пока прошел успешно. «У нас не было взломов», — сказал он. «У нас не было всех кошмарных вещей, которые вы бы не хотели, чтобы произошли».
Обучение клиентов: Это не обычный бот
Одним из следующих шагов, помимо улучшения самого ИИ-агента, является обучение людей тому, как общаться с агентами на естественном языке.
Потребители, по словам Незервуда, привыкли взаимодействовать с чат-ботами, которые следуют программной древовидной структуре — например, ботами поддержки банков, которые существовали до генеративного ИИ. Поэтому они часто не используют агентов таким образом, чтобы воспользоваться их возможностями.
«Например, вы можете вести очень приятный разговор с агентом», — пояснил он. «Вы можете сказать: «Я хочу поехать в Нью-Йорк в марте следующего года, на длинные выходные в честь нашей годовщины. Было бы здорово, если бы мы могли остановиться где-нибудь в 20 минутах ходьбы от Центрального парка, но не слишком дорогой отель. Мы хотели бы потратить деньги, возможно, на перелет бизнес-классом», и [агент] найдет вам такой вариант. Но, конечно, это не обязательно интуитивно понятно, когда люди привыкли заходить в эти системы и говорить: «отпуск сейчас» или «связаться с агентом сейчас»».
(Иногда люди просто хотят поговорить с другим человеком.)
Незервуд сказал, что его команда изучает способы помочь людям более эффективно общаться с моделями ИИ, и он считает, что преобразование речи в реальном времени в конечном итоге окажется очень полезным для таких взаимодействий.
«Нам просто нужно быть в состоянии, когда мы можем гарантировать точность использования инструментов и следования инструкциям», — сказал он, — «потому что последнее, чего вы хотите, — это приятный, естественный разговор с агентом, а затем 50% времени он не может найти рейс или возникает ошибка».
(*) Имейте ввиду, редакции некоторых западных изданий придерживаются предвзятых взглядов в освящении некоторых новостей, связанных с Россией.
8/9
Автор – Thomas Claburn
