SK Hynix et Intel Proposent un Pool de Mémoire Partagée pour Améliorer l'Efficacité des Serveurs AI

Lors du récent Intel AI Summit qui s'est tenu à Séoul, SK Hynix a dévoilé un concept novateur visant à optimiser l'utilisation de la mémoire dans les serveurs AI. La proposition, connue sous le nom de pool de mémoire partagée, cherche à éliminer la nécessité pour chaque serveur de maintenir sa propre mémoire dédiée, permettant ainsi à plusieurs serveurs d'accéder à un pool commun de mémoire à haute capacité.

Cette initiative est motivée par la demande croissante en capacité de mémoire et en bande passante des systèmes d'IA agentique, qui exécutent de manière autonome des tâches complexes et multi-étapes. SK Hynix a présenté ce design innovant le 12 novembre 2026, soulignant son potentiel à réduire significativement la latence des opérations AI.

Sur le plan technique, le pool de mémoire partagée utiliserait des racks dédiés de mémoire à haute capacité, accessibles via des interconnexions à haute vitesse telles que Compute Express Link (CXL) et Remote Direct Memory Access (RDMA). Ces technologies permettent aux processeurs de traiter la mémoire externe comme s'il s'agissait de mémoire locale, facilitant ainsi un accès et un traitement des données plus rapides.

Le Vice-Président de SK Hynix, Joo Young-pyo, a souligné les inefficacités du modèle traditionnel où la mémoire à large bande passante est directement attachée à chaque GPU. La nouvelle architecture vise à résoudre des défis spécifiques, en particulier le problème de cache clé-valeur (KV), qui est crucial pour la performance des modèles AI lors d'interactions multi-tours.

Des tests internes réalisés par SK Hynix ont indiqué que l'utilisation d'un pool de mémoire partagée pourrait réduire le temps moyen jusqu'au premier jeton de 80,76 secondes à seulement 15,45 secondes, marquant une amélioration impressionnante de 81 % de la latence. Bien que ces résultats soient préliminaires, SK Hynix prévoit de valider l'architecture en collaboration avec Intel et d'autres partenaires stratégiques.

Ce partenariat s'appuie sur une histoire de collaboration entre SK Hynix et Intel, y compris des avancées précédentes dans la technologie de mémoire pour serveurs. Le concept de pool de mémoire partagée s'inscrit dans l'orientation plus large de SK Hynix vers l'informatique centrée sur la mémoire, positionnant les processeurs Intel comme des orchestrateurs centraux dans les systèmes AI.