SK Hynix und Intel schlagen gemeinsamen Speicherpool zur Steigerung der Effizienz von KI-Servern vor

Auf dem kürzlich in Seoul abgehaltenen Intel AI Summit präsentierte SK Hynix ein neuartiges Konzept zur Optimierung der Speichernutzung in KI-Servern. Der Vorschlag, bekannt als gemeinsamer Speicherpool, zielt darauf ab, die Notwendigkeit zu beseitigen, dass jeder Server seinen eigenen dedizierten Speicher verwalten muss, wodurch mehrere Server auf einen gemeinsamen Pool mit Hochleistungsspeicher zugreifen können.

Diese Initiative wird durch die wachsende Nachfrage nach Speicherkapazität und Bandbreite von agentischen KI-Systemen vorangetrieben, die komplexe, mehrstufige Aufgaben autonom ausführen. SK Hynix stellte dieses innovative Design am 12. November 2026 vor und hob dessen Potenzial hervor, die Latenz bei KI-Operationen erheblich zu reduzieren.

Technisch gesehen würde der gemeinsame Speicherpool dedizierte Racks mit Hochleistungsspeicher nutzen, die über Hochgeschwindigkeitsverbindungen wie Compute Express Link (CXL) und Remote Direct Memory Access (RDMA) zugänglich sind. Diese Technologien ermöglichen es Prozessoren, externen Speicher so zu behandeln, als wäre er lokal, was schnelleren Datenzugriff und -verarbeitung erleichtert.

Joo Young-pyo, Vizepräsident von SK Hynix, betonte die Ineffizienzen des traditionellen Modells, bei dem Hochbandbreitenspeicher direkt an jede GPU angeschlossen ist. Die neue Architektur zielt darauf ab, spezifische Herausforderungen anzugehen, insbesondere das Problem des Schlüssel-Wert-Caches (KV), das entscheidend für die Leistung von KI-Modellen bei mehrstufigen Interaktionen ist.

Interne Tests von SK Hynix zeigten, dass die Nutzung eines gemeinsamen Speicherpools die durchschnittliche Zeit bis zum ersten Token von 80,76 Sekunden auf nur 15,45 Sekunden reduzieren könnte, was eine beeindruckende Verbesserung der Latenz um 81 % darstellt. Obwohl diese Ergebnisse vorläufig sind, plant SK Hynix, die Architektur in Zusammenarbeit mit Intel und anderen strategischen Partnern zu validieren.

Diese Partnerschaft baut auf einer Geschichte der Zusammenarbeit zwischen SK Hynix und Intel auf, einschließlich früherer Fortschritte in der Server-Speichertechnologie. Das Konzept des gemeinsamen Speicherpools steht im Einklang mit SK Hynix' breiterem Fokus auf speicherzentrierte Computerarchitekturen und positioniert Intels CPUs als zentrale Orchestratoren in KI-Systemen.