$禾盛新材(SZ002290)$  《韩国经济日报》在1月24日的文章中介绍,黄仁勋在演讲中展示了一个被称为“推理上下文内存平台”(Inference Context Memory Platform,简称ICMS)的神秘黑色机架。这并非普通的硬件更新,而是一个旨在解决人工智能推理阶段数据瓶颈的关键创新。记者敏锐地捕捉到,这可能是继HBM(高带宽内存)之后,存储行业的下一个爆发点。


这一平台的核心逻辑在于解决AI推理中的“KV缓存”(键值缓存)问题。随着AI从单纯的学习阶段转向大规模推理应用,数据量呈爆炸式增长,现有的GPU显存和服务器内存架构已难以满足需求。英伟达通过引入全新的数据处理单元(DPU)和海量SSD(固态硬盘),构建了一个庞大的缓存池,试图打破这一物理限制。


这一技术变革对于韩国存储巨头三星电子和SK海力士来说,无疑是一个巨大的利好消息。报道认为,随着ICMS的推广,NAND闪存将迎来类似HBM的“黄金时代”。这不仅意味着存储容量需求的激增,更预示着存储架构的根本性变革——GPU将可能绕过CPU,直接与存储设备进行高速通信。

追加内容

本文作者可以追加内容哦 !