NVIDIA заявила во время презентации RTX Spark, что ноутбуки, оснащенные этим SoC, смогут запускать модели с 120 миллиардами параметров и окном контекста в один миллион. Во время анонса Surface Laptop Ultra исполнительный директор Microsoft преподнес еще один приятный сюрприз тем, кто планирует приобрести топовые ноутбуки в будущем: эти машины способны запускать открытые модели весом 284 миллиарда параметров, которые превосходят GPT-5 от OpenAI в бенчмарках по программированию и рассуждению.
DeepSeek-V4.1-Flash с квантизацией 1,6 бит может работать полностью локально на ноутбуках RTX Spark, по словам представителя Microsoft
Во время выступления гиганта программного обеспечения Паван Давулури, исполнительный вице-президент по Windows и устройствам, активно рассказывал о том, как открытые модели не просто конкурируют с передовыми моделями, но и благодаря унифицированной архитектуре памяти RTX Spark позволяют полностью на устройстве запускать LLM весом 284 миллиарда параметров, такие как DeepSeek-V4.1-Flash.
В презентации представитель Microsoft заявил, что эта модель может поместиться в 60 ГБ памяти, поэтому если вы приобретете топовую версию Surface Laptop Ultra со 128 ГБ унифицированной оперативной памяти, у вас будет достаточно свободной памяти для существенного увеличения окна контекста. Запуск RTX Spark также привел к появлению новой функции в Windows 11, где пользователи могут определять, сколько памяти выделить для GPU для решения задач ИИ.
Интересно в заявлении Павана Давулури то, что версия DeepSeek-V4.1-Flash весом 284 миллиарда параметров с квантизацией 1,6 бит может конкурировать с GPT-5 в бенчмарках по программированию и рассуждению. Стоит помнить, что до появления GPT-6 Astra GPT-5 был самой продвинутой моделью, и видеть, как LLM, полностью помещающаяся в видеопамять, может обогнать ее в определенных бенчмарках, — это невероятное будущее для ИИ на устройствах.
Конечно, важно помнить, что заявления и реальные результаты бенчмарков не всегда совпадают, поэтому нам придется дождаться первых коммерческих партий и посмотреть, как далеко нас смогут завести эти модели весом 284 миллиарда параметров.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Omar Sohail
