Новости: галлюцинации

В очередной раз ИИ доказывает, что является ненадежным источником информации об ИИ. — techcrunch.com

Мы строим мир, в котором вам приходится перепроверять работу своих юристов. Судья в Миссисипи отменил суд и оштрафовал юристов с обеих сторон за использование ИИ, создавшего вымышленные цитаты. — gizmodo.com

Браузер Chrome тайно загружает модель Gemini Nano. Автор проверил ее работу в интерфейсе, похожем на ChatGPT, и обнаружил забавные галлюцинации, включая вымышленного президента Джона Ф. Линкольна. — gizmodo.com

Правительство ЮАР отозвало проект ИИ-политики из-за вымышленных источников, сгенерированных чат-ботом. Eish shame man! Может, не стоит поручать ИИ устанавливать правила для использования ИИ? — theregister.com

Мнение: Не вирусное, как видео с котиками. Вирусное, как то, что нам нужна вакцина. Юридическая система США захлебывается от галлюцинаций ИИ, создающих фальшивые судебные прецеденты. — theregister.com

Галлюцинации ИИ — известная проблема, и при оценке соответствия эти убедительные, но неточные выводы могут нанести ущерб неверными оценками рисков, ошибочными рекомендациями или неточными отчетами. Эксперты отмечают, что проблемы начинаются, когда ИИ начинает принимать решения. — csoonline.com

Адвокат в Орегоне оштрафован на $10 000 за использование в суде вымышленных дел, сгенерированных ИИ. Не стоит спрашивать ИИ, реальны ли дела. — gizmodo.com

Большие языковые модели, называемые «ИИ», допускают ошибки. Википедия столкнулась с «галлюцинациями» в статьях, переведенных с помощью БЯМ, созданных сторонней организацией OKA. Проблема в том, что переводы делаются без должной проверки человеком. — pcworld.com

OpenAI выпустила GPT‑5.3 Instant, менее морализаторствующую модель. Гигант ИИ также пытается пересмотреть условия сделки с Министерством обороны. — theregister.com

Иногда «слово на Х» проскальзывает даже при лучшем медиа-тренинге. Глава Microsoft Сатья Наделла признал, что никому не нужна «небрежная» работа ИИ, несмотря на призывы не критиковать его. — theregister.com