HBM与服务器DRAM
HBM消耗更多DRAM晶圆、TSV和封装资源,同时挤压普通DDR供给。即便价格涨幅减速,供需紧张持续性仍可能长于NAND。
过去市场把AI存储简化为HBM。随着模型上下文从12.8万Token走向100万Token,Agent开始跨多轮、跨工具、跨时间保持状态,KV Cache成为新的基础设施数据。GPU内部的HBM承担即时计算,CPU DRAM承接短期溢出,企业级NAND SSD则开始被设计为可共享的上下文记忆层。
这使存储产业的核心问题发生变化:投资人需要同时跟踪HBM的高带宽稀缺、服务器DRAM的产能挤压、企业SSD的容量增量,以及CMX等新架构是否真正形成“每颗GPU对应多少TB NAND”的采购规则。
HBM仍是AI加速器最不可替代的存储资产,但它解决的是带宽,不适合无限承载长期上下文。CMX把企业SSD推到GPU与传统存储之间,形成“G3.5”层。若这一架构被NVIDIA、AMD和主要云厂商普遍采用,NAND将从保存模型和数据集,升级为保存AI已经完成的计算状态。
HBM消耗更多DRAM晶圆、TSV和封装资源,同时挤压普通DDR供给。即便价格涨幅减速,供需紧张持续性仍可能长于NAND。
2026年企业SSD订单、价格和收入增速最陡。CMX、AI Context Store和245TB QLC SSD扩展容量市场,但2027年节点迁移会提高比特供给。
模型支持100万Token并不等于每个请求都消耗数百GB。平台是否长期保留KV Cache、是否共享前缀,以及是否采用量化和稀疏注意力,决定真实NAND需求。
投资研究中最容易混淆的是“存储介质”和“存储产品”。HBM、DDR、LPDDR和SOCAMM均属于易失性DRAM;NAND Flash是非易失性介质;企业SSD是在NAND之上增加控制器、DRAM缓存、固件、电源保护、接口与散热后的完整设备。
CMX的容量主体来自NVMe企业SSD,但系统价值还包括BlueField-4存储处理器、Vera CPU、ConnectX-9、Spectrum-X、DOCA Memos、NIXL和Dynamo。它更接近一套AI上下文存储网络。
解码阶段需要极高带宽和低延迟,最热的KV Cache仍必须驻留HBM。CMX通过预取与复用,减少HBM容量占用和重复计算,属于扩展层而非替代层。
下面使用传统GQA Transformer的简化公式估算单个序列的聚合KV Cache。闭源模型可能采用MLA、稀疏注意力、滑动窗口或其他压缩,因此结果只用于判断量级。
NVIDIA于2026年3月16日正式发布BlueField-4 STX与CMX。官方将其定义为面向长上下文、多轮和Agent推理的AI原生上下文层,以BlueField-4管理NVMe SSD,并通过DOCA Memos和Spectrum-X共享KV Cache。
位于GPU HBM、主机DRAM和通用共享存储之间。官方明确表述为Ethernet-attached flash tier,并提供每个GPU Pod数PB共享容量。
NVIDIA宣称特定长上下文场景最高可提升约5倍Token吞吐,并改善功耗效率。实际结果取决于模型、复用率、数据路径和基准配置。
首批系统由AIC、QCT、Supermicro及存储伙伴建设,2026年下半年进入供应窗口。公开材料仍缺少平均每GPU容量、采购金额和客户装配率。
早期名称为Inference Context Memory Storage,明确把KV Cache从GPU内存下沉到共享闪存层。
CoreWeave、Crusoe、IREN、Lambda、Mistral AI、Nebius、OCI和Vultr被列为早期计划采用者。
最新技术文章把KV I/O、元数据、预取、租户策略、数据保护和安全处理下沉到Vera BlueField-4 STX。
行业公开演讲与供应链材料多次引用“最高16TB上下文容量/每颗GPU”。按72颗Rubin GPU计算为1,152TB。NVIDIA正式网页目前更稳健的表述是“每个GPU Pod数PB共享容量”,并未把16TB写成所有机柜的强制配置。
| 平台/厂商 | 公开动作 | 介质与产品 | 当前判断 |
|---|---|---|---|
| Samsung 三星电子 | GTC展示PM1753用于CMX KV Cache卸载;HBM4面向Vera Rubin;PM1763 PCIe 6.0进入下一代AI平台验证。 | HBM4、SOCAMM2、TLC企业SSD | 组合最完整,但无独家证据。 |
| Micron 美光 | HBM4已为首要客户平台大批量出货;PCIe Gen6高性能SSD与245TB QLC SSD量产;与Anthropic签署架构及供应合作。 | HBM4、DDR5、TLC/QLC SSD | HBM与NAND双线受益,长协可见度最高。 |
| Kioxia 铠侠 / Sandisk 闪迪 | 第十代BiCS Flash在北上Fab2投产,样品优先面向企业及数据中心SSD;公开CM Series支持CMX方向。 | TLC、QLC、企业SSD | NAND纯度更高,同时面对2027供给扩张。 |
| Solidigm | 公开列出高性能TLC与高容量QLC SSD用于CMX型上下文层。 | D7、D5企业SSD | 高容量QLC潜在受益者。 |
| AMD Helios | 72颗MI455X、31TB HBM4;AMD已预告Infinity Context与统一缓存方案,提出跨GPU低延迟存储层并将NVMe作为第四层。 | Samsung HBM4、DDR5、开放式NVMe | 方向趋同,尚未公布CMX式固定容量标准。 |
本轮价格上行来自AI服务器需求、产能向HBM与服务器产品迁移、供应商库存偏低,以及客户抢先锁定产能。价格斜率在2026年第三季度开始放缓,但这不等于供给已经宽松。
数据为TrendForce季度环比口径。HBM缺乏公开现货市场,多按年度和平台谈判,不应与季度DDR/NAND报价直接比较。
2026年合约价格受到年度定价限制,未完全跟随DDR5上涨。2027年HBM4谈判中供应商要求显著提价,TrendForce使用“数倍”措辞,但最终成交价仍待确认。
HBM占用先进DRAM晶圆与封装资源,服务器CPU放量又增加RDIMM需求。供给受限具有结构性,长协客户获得优先配额。
2026年预计存在4%至5%供给缺口。AI、服务器及企业SSD强劲,但消费手机和PC疲弱,节点迁移和QLC会在2027年增加比特供给。
Micron的战略客户协议是这一变化最清晰的公开样本。其10-Q披露,协议包含多年约束数量、Take-or-Pay义务,多数协议采用固定价格或最低/最高价格区间。即使在价格底线,美光预计毛利率仍明显高于历史周期高点。
长协不会消灭存储周期,但会把一部分价格和数量波动从现货市场转移到合同谈判,并降低供应商在扩产时独自承担的需求风险。
MOU只代表合作方向;平台认证代表技术可用;LTA代表长期采购;Take-or-Pay与预付款才真正改变收入可见度和周期底部。
存储扩产不能只看宣布金额。厂房建设、设备搬入、节点爬坡、良率和客户认证之间通常相隔数季甚至数年。
Samsung扩大HBM4产能并预计2026年HBM销售额超过三倍;Micron HBM4、Gen6 SSD与245TB QLC进入量产;Kioxia/Sandisk北上Fab2开始第十代3D NAND生产。
Micron计划2027年推进HBM4E和新加坡先进封装贡献;Kioxia北上Fab2爬坡;供应商继续通过高层数NAND和QLC提高单位晶圆容量。
Samsung平泽P5计划作为HBM核心基地;Micron美国新厂逐步贡献;SK hynix美国及韩国封装项目进入更明确释放期。
SK hynix于2026年7月宣布M17 NAND晶圆厂,计划2027年开工、2029年上半年运营,同时建设P&T7先进封装设施。
| 公司 | 最直接受益 | 当前关键验证 | 主要风险 | Kerwin研究姿态 |
|---|---|---|---|---|
| SK hynix | HBM份额、先进封装、服务器DRAM | HBM4认证、M15X爬坡、2027合约价 | 估值透支、2028供给回归 | 核心观察 |
| Micron | HBM4、服务器DRAM、Gen6 SSD、QLC | SCA覆盖比例、HBM4E、美国扩产节奏 | 高毛利不可持续、资本开支上升 | 双线受益 |
| Samsung | HBM4修复、SOCAMM、CMX SSD、AMD Helios | Vera Rubin份额、PM1753/PM1763订单 | 执行与认证、集团业务复杂 | 等待份额证明 |
| Sandisk / Kioxia | 企业SSD、QLC、北上Fab2、CMX容量层 | 数据中心收入、10代NAND良率与客户 | 2027比特供给增长、NAND周期性 | 高弹性跟踪 |
| Phison / Silicon Motion | 企业SSD控制器、GPU直连存储、CMX生态 | 设计导入、单机柜控制器价值量 | 原厂自研控制器、客户集中度 | 二阶验证 |
| NVIDIA / AMD | 平台定义权、DPU、网络、推理软件 | CMX/Infinity Context实际部署 | 软件优化降低物理容量需求 | 需求定义者 |
优先采用公司官网、SEC文件、官方产品页和英文产业研究。页面中的16TB/GPU被明确标注为行业口径,NVIDIA官方可确认的口径为Pod级数PB共享容量。