Новости: галлюцинации

Интервью: пионер ИИ Вишал Сикка предостерегает: никогда не доверяйте LLM, работающей в одиночку. Он объясняет ограничения больших языковых моделей и предлагает решение в виде вспомогательных систем. — theregister.com

Последняя модель ChatGPT, GPT-5.2, использует Grokipedia Илона Маска как источник, что вызывает опасения по поводу рекурсивного распространения галлюцинаций и непроверенной информации. Эксперты предупреждают о риске «коллапса модели» и цифрового фольклора из-за цитирования ИИ другими ИИ.

Новая медицинская языковая модель Baichuan-M3 Plus демонстрирует рекордную точность и минимальный уровень галлюцинаций (2,6%) благодаря технологии привязки к доказательствам. Модель доступна по сниженной цене и бесплатно для медучреждений Китая, что ускоряет внедрение надёжного ИИ в здравоохранении.

Галлюцинации ИИ порождают уверенные, но ложные результаты, подрывая точность ИИ. Узнайте, как возникают риски генеративного ИИ и какие существуют способы повышения надёжности систем на основе LLM.

Исследование стартапа GPTZero выявило проблему недостоверных цитат, сгенерированных LLM, на престижной конференции NeurIPS. Это поднимает вопросы о качестве научных публикаций в эпоху «цунами» ИИ-материалов и о том, как эксперты контролируют работу нейросетей.