Google расширила свое восьмое поколение TPU двумя новыми предложениями: TPU 8tx и TPU 8i Max.
Google описывает их как «системы TPU», а не чипы. Компания заявила, что переконфигурировала вычислительные мощности, сетевые возможности, хранилище и упаковку вокруг своих TPU 8t (для обучения) и TPU 8i (для инференса), которые были впервые представлены в апреле 2026 года.
«Поскольку предприятия внедряют автономных агентов в производство, мы создали две новые конфигурации этих фундаментальных систем для решения двух неотложных новых задач: безопасности данных на аппаратном уровне и масштабирования контекста до миллиона токенов», — написал Амин Вахдат, главный технолог и старший вице-президент по ИИ и инфраструктуре Google, в своем блоге, посвященном новым системам.
TPU для конфиденциальных вычислений
TPU 8tx, построенный на том же кремнии, что и TPU 8t, и в сочетании с пользовательскими хостами AMD CPU, оптимизирован для «безопасного и конфиденциального инференса», но также может поддерживать маломасштабные рабочие нагрузки обучения. Это делает его наиболее подходящим для регулируемых предприятий и правительств, использующих передовые или проприетарные модели и автономных агентов наряду с конфиденциальными данными.
В то время как традиционно зашифрованные данные должны быть разблокированы в памяти при хранении или передаче по сети для обработки, TPU 8tx «встраивает безопасность непосредственно в аппаратный уровень», сохраняя конфиденциальные данные и веса моделей защищенными и изолированными даже во время активного использования.
Система также использует сеть Google Boardfly для обеспечения обработки в реальном времени, позволяя TPU 8tx «поддерживать многошаговых агентов в движении». Компания утверждает, что она может обеспечить до 2 раз меньшую задержку по сравнению с TPU 8t при почти нулевой потере производительности.
Наконец, TPU 8tx позволит организациям одновременно запускать и настраивать свои модели на одной системе, давая командам возможность дорабатывать модели, используя свои частные данные, сжимать большие модели в меньшие и обучать своих агентов посредством обучения с подкреплением, и все это без необходимости миграции конфиденциальных данных между отдельными кластерами.
TPU для контекста и плотности
Между тем, TPU 8i Max разработан для решения проблемы, известной как «стена памяти» — разрыв между скоростью процессора и пропускной способностью памяти.
Объединив два чипа TPU 8i в одном корпусе, Google заявила, что TPU 8i Max «масштабирует вычисления и память синхронно», обеспечивая удвоенную вычислительную мощность, удвоенный объем SRAM и удвоенную пропускную способность HBM по сравнению с TPU 8i, позволяя процессорам оставаться оснащенными необходимыми данными, а также гарантируя, что большие рабочие нагрузки не будут замедляться.
Кроме того, Google утверждает, что, поскольку TPU 8i Max вмещает вдвое больше кремния в существующем форм-факторе стойки, центры обработки данных могут развернуть значительно больше вычислительной мощности на квадратный фут и на ватт.
В своем блоге Вахдат отметил, что в совокупности четыре предложения, составляющие восьмое поколение TPU от Google, предоставляют клиентам «специализированный ускоритель для каждого этапа жизненного цикла агентов».
«Хотя они гибки для различных рабочих нагрузок, вместе четыре системы в наших TPU восьмого поколения предоставляют клиентам специализированный ускоритель для каждого этапа жизненного цикла агентов. TPU 8t для масштабирования обучения, TPU 8i для инференса с низкой задержкой, TPU 8tx для конфиденциальных вычислений и TPU 8i Max для огромных контекстных окон и высочайшей плотности вычислений на стойку.
Он добавил: «Поскольку вычисления перемещаются от масштаба человека к масштабу агента, предприятия запрашивают ускорители, которые могут обрабатывать огромные контекстные окна ИИ-моделей. Кроме того, некоторые строго регулируемые клиенты запрашивают специализированные возможности шифрования для уникальных рабочих нагрузок.
«Новые системы TPU, которые мы анонсируем сегодня, отвечают этой новой реальности».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Charlotte Trueman
