Новые ускорители TPU 8tx и TPU 8i Max входят в восьмое поколение чипов компании, представленное в апреле этого года. Они расширяют возможности предыдущих моделей, предлагая увеличенную производительность для инференса и поддержку больших объемов данных для обучения.
TPU 8tx, разработанный совместно с AMD, основан на чипе TPU 8t и предназначен специально для конфиденциального обучения и запуска моделей ИИ, как сообщила Google в своем блоге. Чип «встраивает безопасность непосредственно на аппаратный уровень, обеспечивая защиту и изоляцию конфиденциальных данных и весов моделей даже во время их активного использования», — заявила компания.
Чип также оснащен специализированной сетью для инференса, которая позволяет выполнять логические операции параллельно с обучением. Это дает возможность «на лету» обучать и оптимизировать небольшие модели. По словам Google, такая возможность может быть полезна в случаях, когда компания хочет обучить модель на собственных данных, не перемещая их между устройствами.
TPU 8i Max, в свою очередь, объединяет два чипа TPU 8i, ориентированных на инференс, которые компания выпустила в апреле. Это позволило удвоить объем памяти, вычислительную мощность и пропускную способность, сохранив при этом форм-фактор одного устройства. В результате получился чип, который позволяет моделям ИИ обрабатывать больший объем информации при выполнении запросов.
Выпуск чипов происходит на фоне того, как крупные облачные провайдеры, такие как Microsoft, Amazon, а также ИИ-лаборатории, включая OpenAI и Anthropic, разрабатывают собственные линейки специализированных полупроводников для ИИ и сопутствующее программное обеспечение, чтобы снизить свою зависимость от доминирования Nvidia.
Эта новость также появляется в особенно уязвимый момент для Nvidia, чей генеральный директор Йенсен Хуанг в минувшие выходные признался в наличии романа с лицом, предположительно являющимся китайским шпионом.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ram Iyer
