Goldman Sachs : Les coûts de mémoire font grimper les dépenses du superprocesseur Vera Rubin de Nvidia

Goldman Sachs a estimé que les composants de mémoire représentent désormais environ 62 % des coûts matériels totaux du futur superprocesseur Vera Rubin de Nvidia, une augmentation notable par rapport à 53 % dans les systèmes de la génération précédente, les GB300. Ce changement souligne l'importance croissante de la mémoire dans la structure de coûts globale des puces d'IA avancées.

Le coût estimé des matériaux pour un système complet de rack Vera Rubin NVL72 est d'environ 7,8 millions de dollars, avec des coûts de mémoire atteignant près de 2 millions de dollars. Cela représente une augmentation vertigineuse de plus de 435 % des dépenses en mémoire d'une année sur l'autre.

Facteurs de l'augmentation des coûts de mémoire

La plateforme Vera Rubin utilise deux types de silicium de pointe. Du côté GPU, les puces Rubin de Nvidia incluent jusqu'à 288 Go de HBM4, la dernière génération de mémoire à large bande passante, capable de fournir 22 To/s de bande passante. Le GPU est conçu sur une architecture de 336 milliards de transistors utilisant le processus de 3 nm de TSMC. Le CPU présente un processeur Vera personnalisé avec 88 cœurs Olympus et jusqu'à 1,5 To de mémoire LPDDR5X, connecté via NVLink-C2C cohérent en mémoire avec une bande passante de 1,2 To/s.

Impact sur la chaîne d'approvisionnement

Cette analyse de Goldman Sachs met en lumière une tendance plus large affectant la chaîne d'approvisionnement. Alors que la mémoire représente une part si significative des coûts matériels d'un système, la fortune des fabricants de mémoire est de plus en plus liée à la croissance de l'infrastructure d'IA. Des producteurs majeurs comme Samsung, SK Hynix et Micron, qui fournissent des puces HBM et LPDDR, sont bien positionnés mais font face à des défis pour augmenter leur production en raison des exigences avancées en matière d'emballage pour le HBM4.

Nvidia explore diverses optimisations pour atténuer les pressions sur les coûts, y compris des ajustements des capacités de mémoire et des changements architecturaux pour améliorer l'utilisation de la mémoire. La plateforme Vera Rubin devrait être annoncée en 2025, avec un début de production prévu pour 2026, ciblant spécifiquement les charges de travail d'IA haute performance.