Бум ИИ означает, что ни один матричный флопс не пропадает даром, и это дает новую жизнь старым видеокартам Nvidia с тензорными ядрами. Появляются сервисы, которые оснастят ваш RTX 2080 Ti 22 ГБ видеопамяти, удваивая исходный объем памяти и делая карту более полезной для современных задач с LLM и диффузионными моделями. Если вам не хватает вычислительных мощностей и у вас нет RTX 2080 Ti для модификации, на eBay есть подходящее предложение. Продавец из Гонконга отправит вам предварительно модифицированную 22-гигабайтную версию RTX 2080 Ti за 499 долларов. В описании лота указано, что вы получите карту в исполнении “Turbo”, то есть с турбинной системой охлаждения, с модом на 22 ГБ. Не стоит слишком придираться к конкретному бренду карты, так как продавец сообщает: “Бренд GPU может быть Gigabyte, MSI, ASUS, Leadtek или другим. Это зависит от того, что есть у нас в наличии”. Фотографии в лоте eBay показывают карту Gigabyte с турбинным охлаждением, а также большую коробку с предположительно модифицированными картами, готовыми к отправке, и скриншот GPU-Z, подтверждающий наличие 22528 МБ памяти на работающей карте. У продавца 99,6% положительных отзывов за все время на eBay, что относительно невысоко, но отзывы на этот конкретный товар показывают, что как минимум 38 довольных покупателей уже получили эти карты, и они работают как заявлено. Если вы сможете оказаться в числе этих счастливчиков, то RTX 2080 Ti с 22 ГБ за 500 долларов может стать лучшим вложением в видеопамять за эти деньги. Относительно большой объем памяти в сочетании с пропускной способностью 616 ГБ/с и тензорными ядрами RTX 2080 Ti означает, что карта все еще пригодна для локальных задач с LLM, хотя ее сырая вычислительная мощность и ограниченная поддержка типов данных с пониженной точностью по сравнению с более современными продуктами могут сделать требовательные диффузионные рабочие нагрузки неторопливыми. Среди карт на архитектуре Turing 24-гигабайтный Titan RTX по-прежнему стоит около 800 долларов на eBay, а Quadro RTX 6000 с тем же объемом памяти — около 900 долларов. Любимый энтузиастами локального ИИ RTX 3090 с 24 ГБ более быстрой памяти GDDR6X и пропускной способностью 936 ГБ/с, похоже, продается примерно за 1200 долларов. Профессиональные карты Ampere с еще большим объемом памяти быстро становятся еще дороже. Тот факт, что все эти GPU по-прежнему держат высокую цену спустя много лет после выхода, является свидетельством продолжающейся полезности и повсеместной доступности архитектуры тензорных ядер Nvidia как в потребительских, так и в дата-центровых продуктах, начиная с 2018 года. У AMD есть матричные ускорители в своем арсенале IP с CDNA 1 в 2020 году, но они были доступны только в продуктах Instinct для дата-центров до выхода RDNA 4 в начале прошлого года. Intel с самого начала включила матричные движки XMX в архитектуру Alchemist в конце 2022 года, но графические продукты Arc столкнулись с серьезными проблемами, не связанными с наличием или отсутствием этой возможности. И Apple только недавно представила нейронные ускорители в своих GPU с семейством M5. Все это означает, что если вам не хватает объема видеопамяти, но при этом нужна приличная вычислительная мощность, RTX 2080 Ti с 22 ГБ может стать привлекательным и относительно бюджетным вариантом, к тому же вы получаете доступ ко всей экосистеме программного обеспечения CUDA. Неплохо для восьмилетнего GPU, который к настоящему времени мог бы оказаться на свалке электроники.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jeffrey Kampman
