Новости: high bandwidth flash
AI-моделям — «HBF», KV-кэшу — «HBM»
Узнайте, как SanDisk и SK hynix создают стандарт High-Bandwidth Flash (HBF), чтобы разгрузить HBM и преодолеть стену памяти. HBF дает до 3 ТБ/с при чтении и 512 ГБ памяти, но уступает по ресурсу записи. Поймите, почему веса моделей переместятся на HBF, KV cache останется в HBM, а контекст станет длиннее без потери точности.

SK hynix совместно с SanDisk представила новый стандарт High Bandwidth Flash (HBF), призванный устранить узкие места в инференсе ИИ и нацеленный на пропускную способность до 3 ТБ/с
Узнайте, как новый стандарт High Bandwidth Flash (HBF) от SK hynix и SanDisk устраняет разрыв в производительности между HBM и SSD для ускорителей ИИ. Спецификации HBF: до 512 ГБ, пропускная способность до 3 ТБ/с, поддержка UCIe. Узнайте, как HBF дополнит HBM в обработке LLM и повлияет на экосистему памяти.

Самое просматриваемое:
- Вот как использовать новую кнопку “Плюс”…
- Bitcoin Depot оштрафован на $18,5 млн – сталкивается…
- WatchGuard бьёт тревогу: критическая уязвимость…
- Оверклокер обновил утилиту для разгона Hydra —…
- Как настроить ComfyUI для генерации изображений ИИ…
- Результаты еженедельного опроса: Samsung Galaxy Z…
- ECARX берет управление бизнесом Flyme OS в свои руки…
- Intel преодолела рубеж в миллион пластин,…
- США прикрыли платформу для хранения паролей, которой…
- Исследователи из MIT возродили 40-летнюю концепцию…