Google Lanza los Chips TPU 8t y TPU 8i para Entrenamiento e Inferencia de IA

En el evento Google Cloud Next, la compañía presentó sus unidades de procesamiento tensorial de octava generación (TPUs), que ahora se dividen en dos diseños distintos: el TPU 8t para pre-entrenamiento a gran escala y el TPU 8i para tareas de inferencia y razonamiento de alta concurrencia. Esta es la primera vez que Google opta por un diseño dividido en una generación de TPU, reflejando las demandas en evolución de la tecnología de IA.

Entendiendo los Nuevos Diseños de TPU

El TPU 8t está diseñado para entrenar modelos utilizando vastos conjuntos de datos, enfatizando la potencia de cálculo bruta con la capacidad de escalar hasta 9,600 chips, logrando un rendimiento de 121 ExaFlops. Cuenta con 216 GB de Memoria de Alto Ancho de Banda (HBM) y 128 MB de Memoria de Acceso Aleatorio Estática (SRAM). En contraste, el TPU 8i se centra en tareas de inferencia, ofreciendo 288 GB de HBM y 384 MB de SRAM, que es tres veces más que su predecesor, y proporciona 10.1 FP4 PFLOPs por chip.

Innovaciones Técnicas

Ambos chips utilizan la tecnología de proceso N3 de TSMC e integran los CPUs Axion basados en Arm de Google. El TPU 8i incorpora una nueva topología Boardfly y un motor CAE diseñado para mejorar el rendimiento. Google busca mejorar la sinergia entre hardware y software a través de marcos como JAX y Pathways.

Desarrollos Futuros

Google anticipa la disponibilidad general de estos chips a finales de 2026, con detalles técnicos adicionales que se revelarán en la conferencia Hot Chips 2026 en agosto. Este cambio estratégico hacia chips especializados refleja una tendencia creciente en la infraestructura de IA, atendiendo a necesidades distintas para el entrenamiento y la inferencia.