Компании
Сэм Альтман подчеркивает ограничения поставок памяти на фоне бума ИИ
В недавнем подкасте генеральный директор OpenAI Сэм Альтман обсудил текущие проблемы, с которыми сталкиваются производители памяти в условиях бурного роста индустрии искусственного интеллекта. Он отметил, что крупные производители DRAM, такие как Samsung Electronics, SK hynix и Micron Technology, не спешат строить новые заводы из-за травматичного опыта прошлых перепроизводств, которые едва не привели их к банкротству.
Альтман подчеркнул, что, несмотря на потенциальную возможность каждой из этих компаний генерировать около 100 миллиардов долларов свободного денежного потока в год, их осторожность объясняется историческими уроками, когда капитальные затраты превышали доходы, что приводило к неустойчивым практикам. Он указал, что текущий спрос на высокоскоростную память (HBM) тесно связан с технологиями ИИ, особенно с теми, которые зависят от ускорителей Nvidia и крупных дата-центров.
Кроме того, Альтман раскритиковал тенденцию к локальной инференции ИИ, когда модели ИИ работают на персональных устройствах, что, по его мнению, приводит к неэффективному использованию ресурсов памяти. Он отметил, что отдельные устройства обычно используют лишь около 5% своей памяти, в то время как централизованная облачная инфраструктура может максимизировать эффективность этих ограниченных ресурсов.
OpenAI предприняла шаги для обеспечения своей поставки памяти, заключив соглашения с крупными производителями, стремясь закупить значительную долю мирового производства HBM для улучшения своих возможностей в области дата-центров. Этот стратегический шаг подчеркивает растущее напряжение на рынке полупроводников, где ограничения поставок памяти могут повлиять на темпы развития ИИ.
FAQ
С какими проблемами сталкиваются производители памяти в индустрии ИИ?
Производители памяти сталкиваются с ограничениями поставок из-за нежелания строить новые фабрики, что связано с прошлым опытом перепроизводства, который едва не привел к банкротству.
Почему крупные производители DRAM не хотят инвестировать в новые фабрики?
Крупные производители DRAM, такие как Samsung, SK hynix и Micron, колеблются из-за исторических уроков, когда чрезмерные капитальные затраты приводили к неустойчивым практикам и финансовым трудностям.
Как спрос на память с высокой пропускной способностью (HBM) связан с технологиями ИИ?
Спрос на HBM тесно связан с технологиями ИИ, особенно теми, которые используют ускорители Nvidia и крупные центры обработки данных, требующие значительных ресурсов памяти.
Какую критику высказал Сэм Альтман по поводу локальной инференции ИИ?
Сэм Альтман раскритиковал локальную инференцию ИИ за неэффективное использование ресурсов памяти, так как отдельные устройства обычно используют только около 5% своей памяти по сравнению с централизованной облачной инфраструктурой.
Какие шаги предприняла OpenAI для обеспечения своей памяти?
OpenAI заключила соглашения с крупными производителями памяти для закупки значительной доли мирового производства HBM, что улучшает ее возможности в центрах обработки данных на фоне ограничений поставок памяти.