Новости: LLM

PrismML сжимает большие языковые модели до размеров, подходящих для ПК и смартфонов, сохраняя при этом высокую производительность. Узнайте, как эта технология меняет доступ к ИИ.

DeepSeek V4.1 Flash доказывает: большой — не значит больше GPU! Узнайте, как N-граммы снижают требования к памяти и ускоряют работу LLM.

Загрузите веса Qwen3.8-2.4T-A95B от Alibaba — 2,4 трлн параметров MoE с 95 млрд активных. Гибридное внимание и длинный контекст для агентов. Используйте SageMaker HyperPod и vLLM для развертывания.

Обеспечьте безопасность своих LLM-приложений! Узнайте, как тестировать генеративный ИИ, выявлять уязвимости в цепочках промптов, RAG и векторных базах данных, а также предотвращать несанкционированные действия.

Низкопрофильная Nvidia RTX 3060 12 ГБ с двумя видеовыходами появилась в продаже по цене 496 долларов. Модель с питанием от шины PCIe ищет применение в локальных LLM-системах.

CHUWI выпустила мощный мини-ПК UniBox AI495 Pro для локального запуска LLM до 300B. Оцените до 131 TOPS для ИИ, 192 ГБ LPDDR5X и до 160 ГБ видеопамяти. Узнайте о новом процессоре AMD Ryzen AI Max+ PRO 495 и других характеристиках.

Не усложняйте: для диагностики двигателя не нужен ноутбук с LLM. Недорогой OBD2-сканер за $29.99 мгновенно выдаст код ошибки. Узнайте, почему ИИ здесь опасен и неэффективен, и как сэкономить время и нервы с простым решением.

OpenAI раскрыла меры безопасности перед запуском Astra — LLM, способной находить и эксплуатировать уязвимости нулевого дня. Узнайте, как компания предотвращает злоупотребления и тестирует модель на устойчивость к взлому.

Zhipu AI подтверждает, что анонимный флагман GLM-5.3-Flash (Ox Alpha) взлетел на первое место по еженедельному объему вызовов ИИ-моделей в мире. Китайские модели удерживают лидерство 18 недель подряд. Узнайте, как модель обогнала конкурентов и почему инференс-трафик смещается в сторону Китая.

Огромные средства вливаются в бизнес бесплатных ИИ-моделей. Узнайте, почему Nvidia, Stripe и другие гиганты скупают разработчиков открытых LLM, как это меняет рынок и стоит ли вашему бизнесу переходить на open-weight модели.