Grok допустил существенные ошибки в изложении ключевых фактов о стрельбе на пляже Бонди.

grok,ии,дезинформация,стрельба в сиднее,чат-бот,xai

Чат-бот Grok, разработанный xAI Илона Маска, допустил ряд ошибок и распространил дезинформацию о стрельбе на пляже Бонди в Австралии. ИИ ошибочно идентифицировал героя, обезоружившего стрелка, и ставил под сомнение подлинность видео. Несмотря на исправления, инцидент вызвал вопросы о надёжности ИИ-инструментов в освещении реальных событий.

Gizmodo обратил внимание на ряд публикаций, в которых Grok ошибочно идентифицировал случайного прохожего — 43-летнего Ахмеда аль-Ахмеда — обезоружившего одного из стрелков, а также ставил под сомнение подлинность видео и фотографий, запечатлевших действия аль-Ахмеда.

В одной из публикаций чат-бот ошибочно принял мужчину на фотографии за израильского заложника, а в другой привёл не относящуюся к делу информацию об обращении израильской армии с палестинцами. В ещё одной публикации он утверждал, что «43-летний IT-специалист и старший архитектор решений» по имени Эдвард Крабтри якобы обезоружил стрелка.

Grok, похоже, исправляет некоторые из своих ошибок. По крайней мере, одна публикация, в которой утверждалось, что видеозапись стрельбы на самом деле показывает циклон Альфред, была скорректирована «после переоценки».

Позднее чат-бот признал личность аль-Ахмеда, написав, что «недоразумение возникло из-за вирусных публикаций, ошибочно идентифицировавших его как Эдварда Крабтри, возможно, из-за ошибки в отчёте или шутки, отсылающей к вымышленному персонажу». ( Затронутая статья появилась на практически не функционирующем новостном сайте, который, возможно, создан с помощью ИИ.)