Алгоритм TurboQuant от Google рассматривался как спасение от дефицита памяти; к сожалению, ситуация останется прежней или даже ухудшится.
Google TurboQuant Не Решит Проблему Дефицита Памяти
В марте Google представила новый алгоритм под названием TurboQuant, который значительно сжимает KV Cache. Это привело к резкой экономии — до 6 раз — требований к памяти для рабочих нагрузок ИИ. Как только алгоритм был анонсирован, появились сообщения о резком снижении цен на память.
Было легко связать TurboQuant от Google со снижением цен, и некоторые впали в панику, продавая модули DRAM и памяти (используемые в ПК и ноутбуках) по сниженным ценам, опасаясь, что TurboQuant положит конец буму на рынке памяти. Однако этого не произошло; цены на память остались на прежнем уровне спустя дни после первоначального ажиотажа и продолжают демонстрировать рост спроса.
С момента появления TurboQuant рынок памяти едва ли ощутил какое-либо влияние; на самом деле, общий спрос со стороны компаний, занимающихся ИИ, продолжает расти. В последние несколько дней мы наблюдаем, как все крупные ИИ-фирмы расширяются и представляют новые продукты для масштабирования ИИ в Эпоху Агентности (Agentic Era).
А для тех, кто еще питал надежды на TurboQuant, недавнее заявление финансового директора SK Hynix хоронит весь нарратив о том, что он решит проблему спроса в сфере ИИ.
Оптимизация программного и аппаратного обеспечения, которая активно происходит в индустрии ИИ, является еще одним драйвером роста спроса на память. Хотя технологии повышения эффективности использования памяти могут, казалось бы, снижать потребление памяти на отдельное устройство, в действительности они развиваются в направлении максимизации объема контекста, который может быть обработан на единицу памяти. Ожидается, что это улучшит экономику услуг ИИ, создавая порочный круг, который расширяет общий рынок услуг ИИ и, в свою очередь, стимулирует спрос на память.
Ким У Хён — Финансовый директор SK Hynix
SK Hynix заявляет, что оптимизация программного и аппаратного обеспечения, такая как Google TurboQuant, лишь увеличит спрос на память, а не уменьшит его. Ведущие ИИ-фирмы увеличивают объем контекста, который может быть обработан на единицу памяти, а поскольку центральные процессоры (CPU) становятся новым фаворитом в Эпоху Агентного ИИ, использование памяти будет только ускоряться. Спрос на CPU уже вызывает рост цен по всем направлениям, как это было с памятью, но, как и с графическими процессорами (GPU) до них, паузы в спросе не предвидится.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
