Новости: LLM

Новое исследование представляет математическое доказательство того, что большие языковые модели (LLM) имеют пределы, не позволяющие им выполнять сложные агентские задачи. Это ставит под сомнение перспективы быстрого достижения общего ИИ, несмотря на оптимистичные прогнозы компаний. LLC имеют свои ограничения.

Топ-менеджер Google предупреждает: киберпреступники уже автоматизируют рабочие процессы с помощью ИИ, и в ближайшие годы появятся полноценные комплексы для атак. Эксперты опасаются «демократизации угроз» и сравнивают грядущую волну с моментом появления Metasploit.

OpenAI назначила Баррета Цофа, недавно вернувшегося в компанию, руководителем направления по работе с корпоративными клиентами. Это назначение произошло на фоне усиления конкуренции с Anthropic и Google в сегменте LLM для бизнеса, где доля OpenAI снижается.

Новая медицинская языковая модель Baichuan-M3 Plus демонстрирует рекордную точность и минимальный уровень галлюцинаций (2,6%) благодаря технологии привязки к доказательствам. Модель доступна по сниженной цене и бесплатно для медучреждений Китая, что ускоряет внедрение надёжного ИИ в здравоохранении.

Анализ Брукингского института: несмотря на высокую подверженность ИИ у юристов и разработчиков, 26,5 млн работников хорошо адаптируются. Однако 6,1 млн (86% из которых — женщины) в административных ролях рискуют из-за низкой адаптивности. Стоматологи и пожарные в безопасности.

Галлюцинации ИИ порождают уверенные, но ложные результаты, подрывая точность ИИ. Узнайте, как возникают риски генеративного ИИ и какие существуют способы повышения надёжности систем на основе LLM.

Модели Qwen от Alibaba стали мировым лидером среди LLM с открытым исходным кодом по числу загрузок, преодолев отметку в 1 миллиард. Платформа Hugging Face зафиксировала более 200 000 производных моделей, что подтверждает доминирование Qwen.

Исследование стартапа GPTZero выявило проблему недостоверных цитат, сгенерированных LLM, на престижной конференции NeurIPS. Это поднимает вопросы о качестве научных публикаций в эпоху «цунами» ИИ-материалов и о том, как эксперты контролируют работу нейросетей.

Лучшее руководство по выявлению текстов, созданных ИИ, из Википедии, теперь используется для их маскировки. Представлен плагин «Humanizer» для Claude Code, который борется с характерными признаками ИИ-письма, используя рекомендации редакторов для создания более естественного, но потенциально менее точного вывода.

Nvidia подозревают в попытке заключить сделку с «теневой библиотекой» Anna’s Archive, предлагая оплатить высокоскоростной доступ к 500 ТБ данных для обучения моделей ИИ. Документы указывают на одобрение плана оплаты руководством.