GPU NVIDIA CMP 170HX, как сообщается, получили вторую жизнь благодаря новому инструменту, который открывает доступ к памяти объемом до 80 ГБ, превращая их в жизнеспособное решение для задач ИИ.
От майнинга криптовалют к майнингу токенов ИИ: инструмент для NVIDIA CMP 170HX открывает доступ к 80 ГБ видеопамяти и полному потенциалу GPU Ampere
GPU CMP 170HX был запущен еще в 2021 году. Он появился на пике криптовалютного бума и предлагал урезанную конфигурацию A100 “Ampere” с 8 ГБ и 10 ГБ видеопамяти. После краха рынка майнинга карта находила разное применение, но особой пользы от нее не было, в первую очередь из-за отсутствия поддержки 3D-рендеринга.
Теперь, пять лет спустя, похоже, что GPU CMP 170HX обрели новую жизнь. Появился новый инструмент для разблокировки, который, как сообщается, открывает полный потенциал чипа CMP 170HX. Этот инструмент называется “CMPUnlocker” и доступен для загрузки на GitHub.
Согласно описанию, инструмент CMPUnlocker восстанавливает полную пропускную способность SM (Streaming Multiprocessor) и разблокирует геометрию памяти HBM2e, которая была ограничена в прошивке/OTP NVIDIA. NVIDIA установила различные блокировки на CMP 170HX, сделав ее “только майнинговой” картой, но эра ИИ дарит этому чипу новую жизнь.
Однако есть несколько нюансов: версия на 8 ГБ может быть разблокирована до 64 ГБ, а версия на 10 ГБ — до 80 ГБ, но не каждый увидит полностью разблокированный стек памяти, поскольку CMP 170HX основан на младшем бине оригинального GPU A100 Ampere, и многие из этих стеков HBM2e отключены из-за использования дефектных или некачественных кристаллов памяти. В результате только определенные чипы раскроют полный объем памяти, и полная скорость памяти не гарантируется.
Получение, скажем, 32 ГБ или 40 ГБ будет вполне приемлемо, но максимальный объем памяти будет работать только на чипах с лучшими кристаллами памяти. Некоторые карты даже не смогут поддерживать полную пропускную способность после разблокировки и будут снижать тактовую частоту в зависимости от качества кремния HBM. Пропускная способность составляет около 700-800 ГБ/с на плату. Сообщается, что кристаллы Samsung, используемые в моделях на 10 ГБ, разблокируются до 80 ГБ, но нестабильны, в то время как модель на 8 ГБ с Hynix более стабильна при разблокировке до 64 ГБ.
Что касается практической пригодности этих чипов для ИИ, то многие пользователи уже используют этот инструмент и запускают различные модели. Чип поддерживает только формат данных INT8, без FP8 или FP6/FP4, как в более новых чипах NVIDIA, а производительность оценивается в 48 TOPS.
Итак, подводя итоги (через r/LocalLLaMA):
- Стабильность при 64 ГБ не гарантируется — в оригинальном исследовании стабильно работали только 40 ГБ под нагрузкой. Некоторые пользователи сообщают о работе с 64 ГБ, другие — о нестабильности.
- PCIe ограничен Gen2 x4 (для получения x16 Gen1 и разблокировки Gen2 требуется физическая пайка).
- Нет поддержки FP8/FP4** — поэтому, несмотря на объем видеопамяти, он не так быстр, как 5090.
- На некоторых картах могут быть дефектные стеки памяти — NVIDIA, вероятно, отключила те, что не прошли тестирование, так что результат может варьироваться.
Самое интересное — это цена. Всего несколько недель назад GPU NVIDIA CMP 170HX продавались по цене около 100-200 долларов США, а теперь, после выхода этого инструмента для разблокировки, цены взлетели выше 1000 долларов США. Сейчас карты уходят за 1200-2000 долларов в различных объявлениях на eBay.
Если посмотреть с одной стороны, чип на 64 ГБ или 80 ГБ в этом ценовом диапазоне — выгодное предложение, но также необходимо учитывать упомянутые выше недостатки, что превращает покупку в лотерею. Вы никогда не узнаете, какого качества или бина вам достанется, но эти чипы сейчас быстро раскупаются, причем некоторые покупатели заказывают сразу по несколько сотен штук.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
