Google Lance les Puces TPU 8t et TPU 8i pour l'Entraînement et l'Inférence en IA

Lors de l'événement Google Cloud Next, la société a présenté ses unités de traitement Tensor (TPU) de huitième génération, désormais divisées en deux conceptions distinctes : le TPU 8t pour le pré-entraînement à grande échelle et le TPU 8i pour l'inférence et le raisonnement à haute concurrence. C'est la première fois que Google opte pour un design scindé dans une génération de TPU, reflétant les exigences évolutives de la technologie IA.

Comprendre les Nouvelles Conceptions de TPU

Le TPU 8t est conçu pour entraîner des modèles en utilisant d'énormes ensembles de données, mettant l'accent sur la puissance de calcul brute avec la capacité de monter jusqu'à 9 600 puces, atteignant une performance de 121 ExaFlops. Il dispose de 216 Go de mémoire à large bande passante (HBM) et de 128 Mo de mémoire vive statique (SRAM). En revanche, le TPU 8i se concentre sur les tâches d'inférence, offrant 288 Go de HBM et 384 Mo de SRAM, soit trois fois plus que son prédécesseur, et délivre 10,1 PFLOPs FP4 par puce.

Innovations Techniques

Les deux puces utilisent la technologie de processus N3 de TSMC et intègrent les processeurs Axion basés sur Arm de Google. Le TPU 8i incorpore une nouvelle topologie Boardfly et un moteur CAE conçu pour améliorer les performances. Google vise à améliorer la synergie entre le matériel et le logiciel grâce à des frameworks comme JAX et Pathways.

Développements Futurs

Google prévoit une disponibilité générale de ces puces fin 2026, avec des détails techniques supplémentaires à révéler lors de la conférence Hot Chips 2026 en août. Ce changement stratégique vers des puces spécialisées reflète une tendance croissante dans l'infrastructure IA, répondant à des besoins distincts pour l'entraînement et l'inférence.