Новости: LLM

Гендиректор Redis Роуэн Троллоп отмечает спад внедрения ИИ-агентов, поскольку компании сталкиваются с трудностями в переходе от экспериментов к производству. Только крупнейшие игроки готовы инвестировать в эту технологию.

Open source AI-ассистент Moltbot, прозванный «Jarvis», быстро набирает популярность на GitHub, работая через мессенджеры, но требует доступа к локальным файлам и API-ключам, что создаёт серьёзные риски безопасности.

Исследователи Unit 42 выявили новую угрозу: атаки с использованием ИИ, превращающие веб-страницы в фишинговые с помощью динамической генерации вредоносного JavaScript через LLM. Этот метод обходит защиту, так как код собирается в браузере.

DuckDuckGo набирает популярность как альтернатива Google, особенно на фоне проблем с результатами Gemini. Опрос показал, что 90% пользователей предпочитают поиск без ИИ, хотя сама DDG развивает ИИ-функции (Duck.ai). Основатель компании подчеркивает, что ИИ-инструменты будут полезными, приватными и опциональными, предоставляя пользователям выбор через специальные URL.

Стартап Risotto, создающий инфраструктуру для автономного решения заявок в help desk с помощью ИИ, привлёк $10 млн посевных инвестиций под руководством Bonfire Ventures. Компания использует LLM, фокусируясь на надёжности и управлении контекстом, чтобы автоматизировать поддержку.

Gartner предупреждает: экспоненциальный рост данных от ИИ угрожает надежности больших языковых моделей (LLM). Аналитики прогнозируют, что к 2028 году 50% компаний примут политику нулевого доверия к данным из-за риска «сбоя модели». Эксперты настаивают на верификации всего контента и развитии инструментов управления метаданными.

Обозреватель The New York Times Кевин Руз преувеличенно восхищается возможностями ИИ, в частности «вибекодингом» и «стаями Клод», создавая разрыв между инсайдерами Кремниевой долины и остальными. Автор статьи скептически относится к его восторгу.

Новейшая модель GPT-5.2 от OpenAI начала использовать в качестве источника спорную «Грокипедию» Илона Маска, что вызывает опасения о «мёртвом интернете». Анализ показывает, что контент, созданный ИИ без контроля человека, проникает в ответы чат-ботов, даже по малоизвестным темам, рискуя вызвать коллапс качества моделей.

Всё больше интернета заполняется контентом, сгенерированным LLM, что создаёт проблему «самопоедания» ИИ. Выяснилось, что ChatGPT от OpenAI начал индексировать Grokipedia, спорную энциклопедию от xAI, что привело к распространению дезинформации и конспирологических теорий в ответах популярной модели.

Надёжность науки под угрозой: репозиторий препринтов ArXiv захлёстывает волна низкокачественных статей, сгенерированных ИИ. Анализ показывает рост публикаций с использованием LLM на 33%. Учёные предупреждают, что традиционные метрики качества становятся ненадёжными, а случай с профессором Бухером демонстрирует опасность чрезмерной зависимости от ИИ.