Sam Altman souligne les contraintes d'approvisionnement en mémoire au cœur de l'essor de l'IA

Lors d'un récent podcast, le PDG d'OpenAI, Sam Altman, a abordé les défis actuels auxquels sont confrontés les fabricants de mémoire dans le contexte de l'essor de l'industrie de l'IA. Il a noté que les principaux producteurs de DRAM tels que Samsung Electronics, SK hynix et Micron Technology sont réticents à construire de nouvelles usines de fabrication en raison des expériences traumatisantes passées d'une surproduction qui les a presque conduits à la faillite.

Altman a souligné que malgré le potentiel pour chacune de ces entreprises de générer environ 100 milliards de dollars de flux de trésorerie libre annuels, leur prudence découle de leçons historiques où les dépenses en capital ont dépassé les revenus, entraînant des pratiques insoutenables. Il a également indiqué que la demande actuelle pour la mémoire à large bande passante (HBM) est étroitement liée aux technologies de l'IA, en particulier celles qui s'appuient sur les accélérateurs Nvidia et les grands centres de données.

De plus, Altman a critiqué la tendance de l'inférence locale en IA, où les modèles d'IA fonctionnent sur des appareils personnels, arguant que cela conduit à une utilisation inefficace des ressources mémoire. Il a déclaré que les appareils individuels n'utilisent généralement qu'environ 5 % de leur capacité mémoire, tandis qu'une infrastructure cloud centralisée peut maximiser l'efficacité de ces ressources limitées.

OpenAI a pris des mesures pour sécuriser son approvisionnement en mémoire en formant des accords avec des producteurs majeurs, visant à acquérir une part significative de la production mondiale de HBM pour améliorer ses capacités de centre de données. Ce mouvement stratégique met en lumière la tension croissante sur le marché des semi-conducteurs, où les contraintes d'approvisionnement en mémoire pourraient affecter le rythme du développement de l'IA.