Новости: hbf
AI-моделям — «HBF», KV-кэшу — «HBM»
Узнайте, как SanDisk и SK hynix создают стандарт High-Bandwidth Flash (HBF), чтобы разгрузить HBM и преодолеть стену памяти. HBF дает до 3 ТБ/с при чтении и 512 ГБ памяти, но уступает по ресурсу записи. Поймите, почему веса моделей переместятся на HBF, KV cache останется в HBM, а контекст станет длиннее без потери точности.

Новый стандарт HBF описывает технологию, способную дать GPU терабайты дополнительной памяти
Узнайте о спецификации HBF от СанДиск и СК Хайникс, обещающей до 3 ТБ/с пропускной способности для систем вывода ИИ. Пока интерес проявляют лишь четыре компании — ознакомьтесь с деталями и перспективами технологии.

3D NAND, hbf, ocp, sandisk, tomshardware.com, ИИ, ск хайникс
SK hynix совместно с SanDisk представила новый стандарт High Bandwidth Flash (HBF), призванный устранить узкие места в инференсе ИИ и нацеленный на пропускную способность до 3 ТБ/с
Узнайте, как новый стандарт High Bandwidth Flash (HBF) от SK hynix и SanDisk устраняет разрыв в производительности между HBM и SSD для ускорителей ИИ. Спецификации HBF: до 512 ГБ, пропускная способность до 3 ТБ/с, поддержка UCIe. Узнайте, как HBF дополнит HBM в обработке LLM и повлияет на экосистему памяти.

Архитектура Nvidia Vera Rubin позволит GPU напрямую управлять памятью: путь к 16-кратному увеличению объема памяти для ИИ
Nvidia планирует представить архитектуру на платформе Vera Rubin, позволяющую GPU выдавать команды хранения без CPU. Исследователь считает, что это откроет путь к флеш-памяти с более чем 16-кратной емкостью. — techtimes.com

NVIDIA не интересуется памятью HBF, несмотря на превосходство стеков по 4 ТБ над HBM; Google, по слухам, уже в деле, семплирование стартует в этом году
Память HBF (High-Bandwidth Flash) с большей емкостью, чем HBM, не будет использоваться NVIDIA, но Google станет ключевым клиентом. NVIDIA продолжит использовать HBM, а HBF, разрабатываемая SanDisk и SK Hynix, выйдет на рынок образцов позже в этом году. — wccftech.com

Самое просматриваемое:
- Вот как использовать новую кнопку “Плюс”…
- Bitcoin Depot оштрафован на $18,5 млн – сталкивается…
- WatchGuard бьёт тревогу: критическая уязвимость…
- Как настроить ComfyUI для генерации изображений ИИ…
- ECARX берет управление бизнесом Flyme OS в свои руки…
- Результаты еженедельного опроса: Samsung Galaxy Z…
- Исследователи из MIT возродили 40-летнюю концепцию…
- США прикрыли платформу для хранения паролей, которой…
- Новейший датчик присутствия от Aqara определяет,…
- Представитель сервисного центра Google сообщил…