SK Hynix и Intel предлагают общий пул памяти для повышения эффективности AI-серверов

На недавнем саммите Intel AI, который прошел в Сеуле, SK Hynix представила новую концепцию, направленную на оптимизацию использования памяти в AI-серверах. Предложение, известное как общий пул памяти, стремится устранить необходимость в том, чтобы каждый сервер имел свою собственную выделенную память, позволяя нескольким серверам получать доступ к общему пулу памяти большой емкости.

Эта инициатива вызвана растущим спросом на емкость памяти и пропускную способность со стороны агентных ИИ-систем, которые выполняют сложные многошаговые задачи автономно. SK Hynix представила этот инновационный дизайн 12 ноября 2026 года, подчеркивая его потенциал значительно сократить задержки в операциях AI.

С технической точки зрения общий пул памяти будет использовать выделенные стойки с памятью большой емкости, доступные через высокоскоростные соединения, такие как Compute Express Link (CXL) и Remote Direct Memory Access (RDMA). Эти технологии позволяют процессорам обращаться к внешней памяти так, как если бы она была локальной, что способствует более быстрому доступу к данным и их обработке.

Вице-президент SK Hynix, Чу Ён-пё, подчеркнул неэффективность традиционной модели, при которой память с высокой пропускной способностью напрямую подключена к каждому GPU. Новая архитектура нацелена на решение конкретных задач, особенно проблемы кэширования ключ-значение (KV), которая имеет решающее значение для производительности AI-моделей во время многоходовых взаимодействий.

Внутренние тесты, проведенные SK Hynix, показали, что использование общего пула памяти может сократить среднее время до первого токена с 80,76 секунды до всего 15,45 секунды, что является впечатляющим улучшением задержки на 81%. Хотя эти результаты являются предварительными, SK Hynix планирует подтвердить архитектуру в сотрудничестве с Intel и другими стратегическими партнерами.

Это партнерство основывается на истории сотрудничества между SK Hynix и Intel, включая предыдущие достижения в технологии серверной памяти. Концепция общего пула памяти соответствует более широкой стратегии SK Hynix, ориентированной на вычисления, основанные на памяти, позиционируя процессоры Intel как центральные координаторы в системах AI.