SK Hynix e Intel Proponen un Pool de Memoria Compartida para Mejorar la Eficiencia de los Servidores de IA

En la reciente Cumbre de IA de Intel celebrada en Seúl, SK Hynix presentó un concepto novedoso destinado a optimizar el uso de la memoria en los servidores de IA. La propuesta, conocida como pool de memoria compartida, busca eliminar la necesidad de que cada servidor mantenga su propia memoria dedicada, permitiendo que múltiples servidores accedan a un pool común de memoria de alta capacidad.

Esta iniciativa responde a la creciente demanda de capacidad de memoria y ancho de banda por parte de los sistemas de IA agentiva, que realizan tareas complejas y de múltiples pasos de manera autónoma. SK Hynix presentó este diseño innovador el 12 de noviembre de 2026, destacando su potencial para reducir significativamente la latencia en las operaciones de IA.

En términos técnicos, el pool de memoria compartida utilizaría racks dedicados de memoria de alta capacidad, accesibles a través de interconexiones de alta velocidad como Compute Express Link (CXL) y Remote Direct Memory Access (RDMA). Estas tecnologías permiten que los procesadores traten la memoria externa como si fuera local, facilitando un acceso y procesamiento de datos más rápidos.

Joo Young-pyo, Vicepresidente de SK Hynix, enfatizó las ineficiencias del modelo tradicional donde la memoria de alto ancho de banda está directamente conectada a cada GPU. La nueva arquitectura busca abordar desafíos específicos, particularmente el problema de caché de clave-valor (KV), que es crucial para el rendimiento de los modelos de IA durante interacciones de múltiples turnos.

Las pruebas internas realizadas por SK Hynix indicaron que el uso de un pool de memoria compartida podría reducir el tiempo promedio hasta el primer token de 80.76 segundos a solo 15.45 segundos, marcando una impresionante mejora del 81% en la latencia. Aunque estos resultados son preliminares, SK Hynix planea validar la arquitectura en colaboración con Intel y otros socios estratégicos.

Esta asociación se basa en una historia de colaboración entre SK Hynix e Intel, que incluye avances previos en tecnología de memoria para servidores. El concepto de pool de memoria compartida se alinea con el enfoque más amplio de SK Hynix en la computación centrada en la memoria, posicionando a las CPUs de Intel como orquestadores centrales en los sistemas de IA.