ChatGPT дает отличные финансовые советы. В этом-то и проблема

Чат-бот звучит авторитетно и даже показывает свои расчеты. Поэтому Сьюзи следует его рекомендациям и не обращается к финансовому консультанту. Возможно, совет был хорошим. Но, возможно, он просто упустил из виду тот факт, что супруг Сьюзи моложе и имеет слабое здоровье, что может кардинально изменить расчеты по социальному обеспечению. Он также мог не учесть, что предложенная конвертация пенсионного плана подтолкнет Сьюзи к уплате более высоких взносов на Medicare через два года.

Сьюзи узнает, был ли этот совет правильным для нее, нескоро, если вообще узнает. А ИИ никогда не перезвонит, чтобы сказать, что он был не уверен.

Сьюзи не исключение. Чат-боты с ИИ с поразительной скоростью вошли в повседневную жизнь: опрос Pew Research Center 2025 года показал, что 34% взрослых в США и 58% лиц моложе 30 лет использовали ChatGPT, что примерно вдвое больше, чем два года назад.

Все больше людей обращаются к ИИ по вопросам денег, и некоторые уже обжигаются. Согласно опросу 2000 взрослых американцев, проведенному Pearl.com, платформой профессиональных услуг, в 2025 году, 19% заявили, что потеряли более 100 долларов, следуя финансовым советам от чат-бота с ИИ. Среди инвесторов поколения Z эта цифра выросла до 27%.

Это не гипотетические риски. Люди уже платят за ответы о своих деньгах, которые звучат уверенно — и являются неверными.

Как профессор финансов, который внимательно следит за распространением ИИ в сфере личных финансов, я считаю, что это та часть истории об ИИ, которая меня беспокоит больше всего. И это не та часть, о которой вы обычно слышите.

Мы спорим об ИИ неправильно

Существует две, казалось бы, противоположные жалобы на ИИ. Одна заключается в том, что люди слишком доверяют ему, относясь к чат-боту как к оракулу, — это тенденция, которую исследователи называют «оценка алгоритма» (algorithm appreciation). Другая — в том, что люди ему недостаточно доверяют и отвергают его полезные инструменты, — это тенденция, известная как «отвращение к алгоритмам» (algorithm aversion).

Я утверждаю, что это на самом деле две стороны одной медали, и то, какая сторона вам покажется, зависит от того, можете ли вы определить, когда ИИ ошибается.

Когда ИИ терпит очевидный провал, вы это замечаете и теряете доверие. Таким образом, вы с большей вероятностью обратитесь к профессионалу или другому человеку, которому доверяете, раньше, чем сделали бы это в противном случае. Это безопасный сбой.

Опасный сбой — это обратное. Ответ беглый, уверенный — и неверный. Вы не можете его поймать, поэтому продолжаете решать проблему самостоятельно, хотя давно пора было обратиться за помощью.

Проблема в том, что в вопросах денег второй тип сбоя является наиболее распространенным.

Когда вы путаете беглость речи с точностью

Три фактора делают финансовые советы особенно коварными для ИИ.

Во-первых, беглость речи не равна точности. Люди естественно воспринимают уверенный и хорошо сформулированный ответ как компетентный. Но то, насколько отточенным звучит ответ, почти ничего не говорит о том, подходит ли он вашей ситуации или о точности предложенного решения. Чат-бот может быть безупречен в формулировках, но все равно ошибаться в ваших налогах, потому что ваши налоги зависят от деталей, о которых он не спрашивал.

Во-вторых, ИИ наименее надежен именно там, где ставки самые высокие. Инструменты ИИ хороши в рутинных и общих темах: что такое Roth IRA, как работает сложный процент, разница между акцией и облигацией.

Но финансовая жизнь полна редких, сложных, разовых решений: реализация опционов на акции, понимание альтернативного минимального налога, обязательные минимальные распределения из 401(k), принятие совместной стратегии по получению социального обеспечения, составление брачного договора.

Я выдвигал аналогичный аргумент три года назад относительно торговли с помощью ИИ на Уолл-стрит. Поскольку обвалы рынков редки, у ИИ мало данных для обучения, поэтому он может быть наиболее уверен именно там, где наименее осведомлен.

Это беспокойство не исчезло. Наблюдатели рынка теперь предупреждают, что торговые боты на базе ИИ создают новые финансовые риски, и этот же пробел в знаниях применим и к вашим личным финансам. Исследователи называют эту неравномерную компетентность «зубчатым фронтиром» (jagged frontier) — надежен в общих случаях, но ненадежен в необычных. А в финансах именно необычные случаи, как правило, являются дорогостоящими.

В-третьих, вы часто не можете проверить работу. Финансовый совет — это то, что экономисты называют «товаром доверия» (credence good), как диагноз механика или рекомендация врача. Вы часто не можете понять, был ли совет хорошим, иногда в течение многих лет. Ошибочный налоговый ход может проявиться только при аудите. Плохой план снятия средств с 401(k) может дать о себе знать, только когда фондовый рынок упадет. Без быстрой обратной связи неверный, но уверенный ответ никогда не корректируется.

Именно поэтому приведенные выше цифры Pearl, вероятно, занижены, поскольку они учитывают только те потери, которые люди заметили.

Скрытый сбой — тот, за которым нужно следить

Обратите внимание, что реальный вред в истории Сьюзи — это не одна драматическая ошибка. Это то, что уверенный ответ заставил Сьюзи почувствовать, что ей не нужно звонить профессионалу, поэтому звонок так и не состоялся.

Опасность заключается не столько в том, что вы действуете по неверному совету, сколько в том, что вы никогда не ищете правильный совет. Чем более гладким и успокаивающим является инструмент, тем легче оставаться в режиме «сделай сам» дольше, чем следовало бы обратиться за помощью извне.

Кто в наибольшей опасности? В исследовании крупной платформы робо-эдвайзинга в Индии, соавтор Вишаал Болкаран и я обнаружили, что ее пользователи в основном молодые, преимущественно мужчины, и склонны быть мелкими розничными инвесторами и профессионалами. При этом регистрация новых счетов возрастает в периоды высокой волатильности рынка.

Иными словами, люди, которые больше всего полагаются на автоматизированные советы, соответствуют тем 27% среди представителей поколения Z, которые потеряли более 100 долларов, используя чат-бот для финансовых консультаций. Они обращаются к нему именно тогда, когда рынки становятся турбулентными, а неверный шаг может стоить дороже всего.

Есть еще один стимул, который стоит упомянуть. В моем новом анализе я утверждаю, что инструмент, который зарабатывает на удержании вашего внимания, имеет причину звучать уверенно и полезно: уверенность удерживает вас на платформе. Проблема в том, что пользователь, которого он таким образом удерживает, иногда является тем, кому следовало бы передать общение человеку.

Система, настроенная на ваше вовлечение, — это не то же самое, что система, настроенная на защиту вашего финансового будущего, и они могут указывать в разных направлениях. Сбои уже происходят: управляющие активами сталкиваются с тем, что Bloomberg назвал «расплатой чат-ботов». Один новый инструмент для налогообложения на базе ИИ недавно вызвал падение акций компаний по управлению активами, поскольку инвесторы предположили, что автоматизированные советы поглотят этот бизнес.

Как разумно использовать ИИ

Эти выводы не означают, что людям следует избегать ИИ для получения финансовых советов. При правильном использовании эти инструменты являются ценным и бесплатным финансовым просветителем.

Это также не означает, что финансовый консультант всегда дает правильные ответы. Как и при поиске любого специалиста, важно провести исследование заранее и убедиться, что он соответствует критериям, изложенным Бюро по защите прав потребителей в сфере финансовых услуг. Прозрачность комиссий также имеет решающее значение.

Но если вы все же обращаетесь к ИИ, главное — знать, где провести черту.

Относитесь к ИИ как к отправной точке, а не как к вердикту. Он отлично подходит для изучения концепций, составления вопросов и получения общей картины перед встречей. Он может научить людей словарному запасу для более содержательного разговора с экспертом.

Но остерегайтесь сигналов о том, что вы вышли из зоны его комфорта и вошли на территорию, где ИИ слаб, а уверенный ответ наименее надежен. Красные флаги — это крупные суммы денег, налоговые последствия, что-либо необратимое и все, что зависит от деталей вашей ситуации, а не от общего правила.

Вопросы о наследстве, снятие пенсионных накоплений, стратегии получения пособий по социальному обеспечению, структура бизнеса и крупные разовые сделки — все это относится к данной категории. Это те решения, которые требуют привлечения человека, например, сертифицированного финансового планировщика.

И помните: уверенность — это не компетентность. Когда ответ о ваших деньгах звучит максимально отточенно и уверенно, это не повод расслабиться. В самых сложных вопросах эта гладкая уверенность — как раз тот сигнал, что вам следует взять трубку и поговорить с экспертом.

Паван Джайн — доцент финансов в Мичиганском университете