Новости: LLM

Пользователи Apple Silicon Mac получат прирост производительности благодаря улучшенному использованию унифицированной памяти в Ollama с поддержкой MLX. — arstechnica.com

Анализ отчета Anthropic: исследование 2023 года создало пугающие прогнозы о возможностях ИИ, основываясь на устаревших догадках о будущем «ожидаемом программном обеспечении на базе LLM». — arstechnica.com

Утечка данных из CMS Anthropic раскрыла детали о самой мощной модели ИИ Mythos с улучшенными навыками кодирования. Компания осторожна из-за рисков для кибербезопасности. — csoonline.com

Сайт, чьи политики подвержены изменениям, столкнулся с проблемой контента, сгенерированного ИИ. Новое правило запрещает использование LLM для создания или переписывания статей, но допускает их применение для базовой корректуры под контролем человека. — techcrunch.com

После долгих дебатов Википедия наконец заняла позицию в отношении контента, сгенерированного ИИ, на своей платформе: «использование LLM для генерации или переписывания статей запрещено». Редакторам разрешено использовать ИИ для базового редактирования текста, написанного ими самими. — pcworld.com

В тестах на GPU Nvidia H100 4-битный TurboQuant обеспечил прирост производительности до восьми раз при вычислении логитов внимания по сравнению с неквантованными 32-битными ключами, сократив память KV-кэша в шесть раз. — tomshardware.com

Традиционные модели безопасности работали по циклу: сканирование, сортировка, устранение через заявки. Ответственность была неявной. Разработка на основе ИИ меняет это, предоставляя контекст. ИИ-сортировка переопределяет роль команд безопасности, смещая фокус с ручной работы на управление качеством решений системы. — csoonline.com

Автор делится опытом тестирования функции «использование компьютера» в приложении Claude на Mac. Он столкнулся с трудностями при игре в шахматы и размышляет о реальных сценариях применения этой мощной, но пока сырой технологии. — pcworld.com

Datadog разрабатывает собственную модель ИИ для наблюдаемости, чтобы избежать SaaSpocalypse. Теория состоит в том, что ее доменно-специфичная модель превзойдет универсальные LLM по результатам и экономике. — theregister.com

Кошмар начинается с попытки героя проникнуть в фирму за файлами, но все двери заперты. Обнаружение черного хода ведет в лабиринт коридоров, где герой чувствует, что за ним следят. Это метафора для кибератак: хакеры натыкаются на сервер-ловушку (honeypot), который теперь усиливается большими языковыми моделями (LLM) для создания убедительного обмана. — csoonline.com