全网绝大多数AI算力科普,都在集中渲染一个观点:算力核心看HBM,HBM决定一切。这也导致市场形成了一个普遍的认知误区:把HBM神化为AI算力的唯一核心,彻底忽略DDR5、SSD的价值。

但站在服务器底层架构视角看:GPU是算力的心脏,HBM、DDR5、SSD组成的三层存储,是给心脏持续供血的完整血管系统。没有顺畅的数据搬运,再顶级的GPU、再高端的HBM,也会陷入“无数据可算”的空转状态。

AI大模型几千亿参数、海量训练数据,从来不是靠单一硬件支撑,而是靠一套完整的存储接力体系高效运转。

在深入三层结构前,先区分两个基础概念:

· 内存(如HBM、DDR5):易失性,断电数据丢失,用于临时存放正在计算的数据,主打高速读写。

· 存储(如SSD):非易失性,断电数据不丢失,用于永久保存模型、数据集,主打大容量存储。

两者属性、分工完全不同,不可替代。工程师正是通过SSD、DDR5、HBM三层接力存储架构,有效解决了AI算力最大的痛点——“内存墙”与数据搬运瓶颈。

下面用通俗的「物流供应链逻辑」,完整拆解三层存储的协作底层逻辑。

 

第三层:SSD —— 后方总仓库(永久存储)

非易失性存储,是整个AI算力体系的“数据底座”。

核心参数:容量最大(几TB~几十TB),速度相对较慢(单盘3-14 GB/s),成本最低($0.1-0.2/GB)。

核心作用:持久存放所有AI模型参数、海量训练数据集、运行日志。相当于城市外围的巨型总仓库,储备所有核心物料,是AI运算的数据源根基。

国产现状:长江存储NAND全球份额约12%,三期工厂国产设备占比突破50%;联芸科技PCIe 5.0主控已进入量产测试阶段,国产SSD全链路替代稳步推进。

 

第二层:DDR5 —— 中转分拣中心(系统内存)

易失性系统内存,是衔接存储与高速算力的核心枢纽,也是当前被市场严重低估的关键环节。

核心参数:容量几百GB~2TB,服务器多通道总带宽250-450 GB/s,成本处于中等水平。

核心作用:提前从SSD总仓库预加载即将运算的数据,完成分拣、排序、暂存。相当于高速转运中心,弥补了SSD速度不足、HBM容量有限的短板,是数据流转的核心中转站。

国产现状:长鑫存储DDR5速率达8000MT/s,跻身全球第一梯队,全球份额约10%,已成功打入海盗船等国际一线品牌供应链,是三层存储中国产成熟度最高的赛道。

 

第一层:HBM —— GPU工作台(高速工作内存)

3D堆叠DRAM架构,紧贴GPU封装,是算力爆发的最前端载体。

核心参数:容量80-200 GB,带宽高达1-8 TB/s,成本昂贵($10-25/GB,单位成本约为SSD的100倍)。

核心作用:仅存放当下正在计算的瞬时数据(模型单层权重、中间激活值)。相当于GPU旁的专属工作台,不存冗余数据,只为极致提速而生,负责最后一步高速运算。

国产现状:长鑫存储HBM3已向头部客户送样,预计2026年实现量产,与韩系巨头的技术差距收缩至2-3年;华为自研低成本HBM技术同步推进,整体处于「跟跑突破、加速追赶」阶段。

 

完整数据流动逻辑

很多科普只讲“HBM赋能GPU”,却跳过了完整的供应链路。AI真实运算流程层层递进、分工明确:

推理场景(日常AI交互)

SSD总仓库 →(预加载)→ DDR5分拣中心 →(搬运)→ HBM工作台 → GPU运算 → 输出结果(不写回SSD)

训练场景(大模型迭代)

运算产生的梯度、优化器状态、模型快照会反向落库:HBM → DDR5 → SSD

极简链路:总仓库预载、分拣中转、高速运算,形成完整闭环。

 

新趋势:CXL协议——破解内存孤岛

传统服务器存在明显短板:CPU、GPU内存独立,易出现“部分闲置、部分拥堵”的内存孤岛问题。

CXL高速互连协议的核心价值,不是替代SSD、DDR5、HBM任何一层,而是重构流转效率:通过内存池化技术,将多通道DDR5整合为共享中央转运中心,大幅减少重复从SSD读取数据的损耗,让三层存储的协作效率再上一个台阶。

 

核心总结

1. 打破单一误区:AI算力瓶颈从来不是靠HBM“单点突破”。超高算力的本质,是数据存储、中转、运算全链路的极致协同。

2. 三层各司其职:SSD筑牢数据底座,DDR5承担核心流转,HBM负责终端爆发。没有绝对的“最关键”,只有整体协作效率的最优解。

3. 国产替代梯度清晰:DDR5已跻身全球第一梯队;SSD产能与设备国产化持续渗透;HBM加速追赶。全产业链自主可控格局正在成型。

长期来看,AI算力的竞争,终将从“单一硬件内卷”,转向完整存储供应链的效率竞争。

#社区牛人计划#@东方财富创作小助手

 

数据来源:本文数据基于TrendForce、IDC及企业公开披露信息(截至2026年上半年)

风险提示:本文仅为产业技术科普,不构成任何投资建议。

原创说明:原创内容,转载请注明出处。

本文创作过程中使用AI辅助完成。

作者声明:内容由AI生成
追加内容

本文作者可以追加内容哦 !