Известный канадский скрипач Эшли Макайсак заявил, что функция AI Overview от Google ошибочно заклеймила его как осужденного за сексуальные преступления, что привело к отмене его концерта на прошлой неделе.
Прежде чем мы продолжим, вам необходимо посмотреть музыкальное видео на песню “Sleepy Maggie” Эшли Макайсака (с вокалом на шотландском гэльском языке в исполнении Мэри Джейн Ламонд). Не будучи родом из Канады, где эта песня была хитом в 1995 году, я никогда раньше не наслаждался этим роскошным пиршеством образов и звуков 90-х, но это упущение было исправлено благодаря этому новостному событию. Для достижения наилучших результатов зажгите гвоздичную сигарету перед нажатием кнопки воспроизведения:
Как сообщает The Globe and Mail во вторник, Эшли Макайсак, тот самый парень со скрипкой из видео, готовился выступить в общине коренных народов Сипкне’катике в центральной Новой Шотландии, когда организаторы внезапно отказались от его услуг, очевидно, прочитав, что Макайсак имеет ужасные судимости за сексуальное насилие и “склонение к интернет-знакомствам”.
Позже выяснилось, по словам Макайсака, что эти организаторы видели результат Google AI Overview, в котором биография Макайсака была перепутана с биографией другого, гораздо более ужасного, Макайсака, также из восточной Канады.
Вы, вероятно, помните споры вокруг функции Google AI Overviews, когда она дебютировала в 2024 году и быстро стала поводом для шуток после того, как советовала людям добавлять клей в пиццу и тому подобное. Со своей стороны, я дал этой функции шесть месяцев на улучшение перед тем, как ее оценить, и обнаружил ряд странных типов ошибок, которые она все еще склонна совершать в, как я полагал, правдоподобных симуляциях реальных сценариев использования. В то время Google сообщил мне, что им еще предстоит “поработать над качеством”.
Если характеристика Макайсака верна, то им это все еще необходимо, и им действительно нужно избегать ошибок, подобных той, о которой здесь говорится. В The Globe and Mail есть показательная цитата Клифтона ван дер Линдена, доцента Университета Макмастера, который исследовал дезинформацию, созданную искусственным интеллектом. “Мы наблюдаем переход в поисковых системах от навигаторов информации к рассказчикам”, – сказал он газете.
AI Overviews – это оригинальные фрагменты текста, своего рода ответы чат-ботов, созданные на заказ, когда термин ищется в Google, и они получены из всего, что Google может найти в Интернете, что, кажется, относится к теме, которую вы ищете. Вы никогда не знаете, как кто-то может сформулировать поиск о вас, потому что возможности безграничны, и, следовательно, вы никогда не знаете, как AI Overview может ошибиться.
Макайсак задается вопросом в статье The Globe and Mail, искали ли его другие люди в Google и видели ли аналогичные результаты, не сообщая ему об этом. Он считает это потенциальной причиной для беспокойства, потому что думает, что мог потерять работу или нажить врага, который поверил в то, что прочитал, и решил причинить ему вред.
Что касается позиции Google, то пресс-секретарь Google Венди Мантон сообщила The Globe and Mail следующее: “Поиск, включая AI Overviews, является динамичным и часто меняется, чтобы показывать наиболее полезную информацию. Когда возникают проблемы – например, если наши функции неправильно интерпретируют веб-контент или упускают некоторый контекст – мы используем эти примеры для улучшения наших систем и можем принимать меры в соответствии с нашей политикой”. Газета также сообщает, что Google “изменил результаты поиска для музыканта”.
Кроме того, представитель общины коренных народов Сипкне’катике сказал Макайсаку: “Мы глубоко сожалеем об ущербе, который эта ошибка нанесла вашей репутации, вашему заработку и вашему чувству личной безопасности”, и сказал ему, что он может выступить там в будущем, по его словам. The Globe and Mail не получила ответа от коренных народов Сипкне’катике, когда запросила комментарий.
Все это звучит как большая проблема для многих людей из-за очевидной галлюцинации искусственного интеллекта. Но, по крайней мере, я узнал о “Sleepy Maggie”.
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освящении новостей.
7/9
Автор – Mike Pearl
