Ложь означает смерть — по крайней мере, для одного правительственного ИИ, распространявшего ложную информацию. Чат-бот на базе Microsoft, запущенный в Нью-Йорке для помощи предпринимателям в получении ответов на часто задаваемые вопросы, но часто выдававший ошибочные сведения, был отключён на фоне бюджетного дефицита города в размере 12 миллиардов долларов.
Мэр Зохран Мамданни заявил, что, хотя сэкономленные средства составляют лишь небольшую долю от необходимых для закрытия дыры в бюджете, этот случай символизирует, как предыдущая администрация расходовала деньги налогоплательщиков.
«Предыдущая администрация внедрила чат-бот на основе ИИ, который по сути был неработоспособным и стоил около полумиллиона долларов», — заявил Мамданни на пресс-конференции в среду. — «Сам по себе этот факт не решит проблему, но показывает, как тратились средства без учёта реальной стоимости таких программ».
Чат-бот был представлен в октябре 2023 года в рамках плана по использованию искусственного интеллекта мэра Эрика Адамса. Он должен был предоставлять предпринимателям достоверную и полезную информацию с более чем 2000 веб-страниц города по вопросам соблюдения норм, доступных льгот и лучшим практикам, заявил тогда Адамс.
«Впервые предприниматели Нью-Йорка смогут задавать свои вопросы чат-боту на базе ИИ, вместо того чтобы перебирать страницу за страницей, погружаясь в пучину неопределённости по поводу открытия и ведения бизнеса», — сказал он при запуске. — «Теперь это позади. Впереди — ответы, генерируемые искусственным интеллектом».
Однако местное издание The Markup протестировало бота и обнаружило, что он даёт неверные советы: потенциальным арендодателям говорил, что те не обязаны принимать жильцов с жилищной субсидией, а также что могут устанавливать любую арендную плату.
Бот утверждал, что бизнес может переходить на безналичный расчёт, хотя в 2020 году городской совет ввёл обязательный приём наличных, а также допускал, что работодатели могут забирать чаевые у сотрудников и скрывать часть расходов на похороны.
Хотя в 2023 году город предупреждал, что бот может «галлюцинировать», нынешняя администрация поблагодарила издание за выявление проблемы. В пятницу днём The Register запросил комментарий у Microsoft, но не получил оперативного ответа.
Нью-йоркский бот — не первый, вышедший из-под контроля.
Компания Air Canada использовала ИИ-чат-бот, который давал ложные сведения о скидках, а другие аналоги обвинялись в причастности к вреду, нанесённому детям, включая суицид.
Канадский трибунал постановил, что Air Canada обязана соблюдать то, что заявил её бот. Ранее в этом месяце Google и Character AI предложили урегулировать иски от семей из Флориды, Колорадо, Нью-Йорка и Техаса, дети которых погибли или пострадали после взаимодействия с такими чат-ботами. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – O'Ryan Johnson
