Google представила чипы TPU 8t и TPU 8i для обучения и вывода ИИ

На мероприятии Google Cloud Next компания представила свои восьмые по счету Тензорные Процессорные Устройства (TPU), которые теперь разделены на два отдельных дизайна: TPU 8t для крупномасштабного предварительного обучения и TPU 8i для вывода и высококонкурентного рассуждения. Это первый случай, когда Google выбрала раздельный дизайн в поколении TPU, что отражает изменяющиеся требования технологий ИИ.

Понимание новых дизайнов TPU

TPU 8t предназначен для обучения моделей с использованием обширных наборов данных, акцентируя внимание на вычислительной мощности с возможностью масштабирования до 9,600 чипов, достигая производительности в 121 ЭксФлопс. Он оснащен 216 ГБ памяти с высокой пропускной способностью (HBM) и 128 МБ статической оперативной памяти (SRAM). В отличие от него, TPU 8i сосредоточен на задачах вывода, предлагая 288 ГБ HBM и 384 МБ SRAM, что в три раза больше, чем у его предшественника, и обеспечивает 10.1 FP4 PFLOPs на чип.

Технические инновации

Оба чипа используют технологию производства N3 от TSMC и интегрируют процессоры Axion на базе Arm от Google. TPU 8i включает новую топологию Boardfly и движок CAE, разработанный для повышения производительности. Google стремится улучшить синергию между аппаратным и программным обеспечением через такие фреймворки, как JAX и Pathways.

Будущие разработки

Google ожидает, что эти чипы станут общедоступными в конце 2026 года, при этом дополнительные технические детали будут раскрыты на конференции Hot Chips 2026 в августе. Этот стратегический переход к специализированным чипам отражает растущую тенденцию в инфраструктуре ИИ, отвечая на различные потребности в обучении и выводе.