KERWIN INVESTMENT RESEARCH · AI MEMORY INFRASTRUCTUREHONG KONG · 22 JUL 2026
AI记忆体大迁徙:从 HBMCMX
当百万Token、Agent长期记忆与机架级推理,把NAND推入GPU旁边
Kerwin投顾视角数据与公开信息截至2026年7月22日覆盖:HBM · DRAM · NAND · 企业SSD · CMX · AMD Helios事实、行业口径与推演分层标注
THE INVESTMENT QUESTION

AI基础设施的下一块增量,可能不只来自“算得更快”,还来自“记得更多”。

过去市场把AI存储简化为HBM。随着模型上下文从12.8万Token走向100万Token,Agent开始跨多轮、跨工具、跨时间保持状态,KV Cache成为新的基础设施数据。GPU内部的HBM承担即时计算,CPU DRAM承接短期溢出,企业级NAND SSD则开始被设计为可共享的上下文记忆层。

这使存储产业的核心问题发生变化:投资人需要同时跟踪HBM的高带宽稀缺、服务器DRAM的产能挤压、企业SSD的容量增量,以及CMX等新架构是否真正形成“每颗GPU对应多少TB NAND”的采购规则。

VERA RUBIN NVL72 · GPU + HBM
Spectrum-X
RDMA / NIXL
CMX / STX · BLUEFIELD-4 + NVMe SSD
示意图:CMX是Pod级共享闪存层,不是固定嵌入每台NVL72内部的三台硬盘柜。
3层HBM / DRAM / NAND上下文层级
PB级NVIDIA官方定义Pod共享容量
CMX宣称最高吞吐改善
2H27NAND整体紧张可能缓解窗口

专题结论:NAND正在获得一张新的AI入场券

HBM仍是AI加速器最不可替代的存储资产,但它解决的是带宽,不适合无限承载长期上下文。CMX把企业SSD推到GPU与传统存储之间,形成“G3.5”层。若这一架构被NVIDIA、AMD和主要云厂商普遍采用,NAND将从保存模型和数据集,升级为保存AI已经完成的计算状态。

结构性最强

HBM与服务器DRAM

HBM消耗更多DRAM晶圆、TSV和封装资源,同时挤压普通DDR供给。即便价格涨幅减速,供需紧张持续性仍可能长于NAND。

弹性最大

企业级NAND SSD

2026年企业SSD订单、价格和收入增速最陡。CMX、AI Context Store和245TB QLC SSD扩展容量市场,但2027年节点迁移会提高比特供给。

最大未知数

装配率与保存策略

模型支持100万Token并不等于每个请求都消耗数百GB。平台是否长期保留KV Cache、是否共享前缀,以及是否采用量化和稀疏注意力,决定真实NAND需求。

一句话:HBM是AI的高速工作台,服务器DRAM是旁边的临时桌面,CMX是可被整个GPU Pod共享的高速文件柜,传统对象存储则是远端档案库。

HBM属于DRAM,企业SSD主要属于NAND,CMX属于系统平台

投资研究中最容易混淆的是“存储介质”和“存储产品”。HBM、DDR、LPDDR和SOCAMM均属于易失性DRAM;NAND Flash是非易失性介质;企业SSD是在NAND之上增加控制器、DRAM缓存、固件、电源保护、接口与散热后的完整设备。

GPU片上缓存
SRAM纳秒级、容量最小、单位成本最高
算子与核心附近的即时缓存
HBM
3D堆叠DRAMTSV、宽接口、靠近GPU封装,断电丢失
模型权重、活跃KV Cache、中间结果
主机内存
DDR / LPDDR / SOCAMM仍是DRAM,容量更大、带宽低于HBM
CPU工作集与温数据溢出
CMX / 企业SSD
NAND SSD + DPU + 网络 + 软件非易失、TB至PB级,延迟高于DRAM
可复用KV Cache与Agent上下文

CMX为什么不能简单叫“NAND”

CMX的容量主体来自NVMe企业SSD,但系统价值还包括BlueField-4存储处理器、Vera CPU、ConnectX-9、Spectrum-X、DOCA Memos、NIXL和Dynamo。它更接近一套AI上下文存储网络。

为什么CMX不会替代HBM

解码阶段需要极高带宽和低延迟,最热的KV Cache仍必须驻留HBM。CMX通过预取与复用,减少HBM容量占用和重复计算,属于扩展层而非替代层。

100万Token的原文只有几MB,KV Cache却可能达到几十至数百GB

下面使用传统GQA Transformer的简化公式估算单个序列的聚合KV Cache。闭源模型可能采用MLA、稀疏注意力、滑动窗口或其他压缩,因此结果只用于判断量级。

163.8 GB单个序列KV Cache
0.64部等效256GB手机存储
7,031个1.152PB可容纳的理论会话数
公式:Tokens × Layers × 2(K与V)× KV Heads × Head Dimension 128 × 每元素字节。未扣除元数据、分块、冗余和系统预留。
重点:“支持100万上下文”代表最大窗口,不代表平台为每位用户提前预留完整容量。Paged KV Cache、Prefix Cache、FP8量化、MLA和会话淘汰都可能把实际需求降低数倍。

CMX把闪存变成Pod级共享“上下文记忆”

NVIDIA于2026年3月16日正式发布BlueField-4 STX与CMX。官方将其定义为面向长上下文、多轮和Agent推理的AI原生上下文层,以BlueField-4管理NVMe SSD,并通过DOCA Memos和Spectrum-X共享KV Cache。

官方事实

G3.5闪存层

位于GPU HBM、主机DRAM和通用共享存储之间。官方明确表述为Ethernet-attached flash tier,并提供每个GPU Pod数PB共享容量。

官方目标

提高吞吐与能效

NVIDIA宣称特定长上下文场景最高可提升约5倍Token吞吐,并改善功耗效率。实际结果取决于模型、复用率、数据路径和基准配置。

待验证

商业出货与订单

首批系统由AIC、QCT、Supermicro及存储伙伴建设,2026年下半年进入供应窗口。公开材料仍缺少平均每GPU容量、采购金额和客户装配率。

5 JAN 2026

BlueField-4推理上下文存储概念首次公开

早期名称为Inference Context Memory Storage,明确把KV Cache从GPU内存下沉到共享闪存层。

16 MAR 2026

CMX与BlueField-4 STX正式发布

CoreWeave、Crusoe、IREN、Lambda、Mistral AI、Nebius、OCI和Vultr被列为早期计划采用者。

16 JUL 2026

NVIDIA进一步说明BlueField极致协同

最新技术文章把KV I/O、元数据、预取、租户策略、数据保护和安全处理下沉到Vera BlueField-4 STX。

一台NVL72是否“对应1.15PB”?只能视为高配容量推演

行业公开演讲与供应链材料多次引用“最高16TB上下文容量/每颗GPU”。按72颗Rubin GPU计算为1,152TB。NVIDIA正式网页目前更稳健的表述是“每个GPU Pod数PB共享容量”,并未把16TB写成所有机柜的强制配置。

行业上限口径推演72 × 16TB= 1,152TB,约1.15PB原始容量
这是一份容量预算,不是“一台计算柜固定配三台存储柜”的物理规则。CMX由Pod共享,节点数量随单盘容量、冗余、性能和并发目标变化。
256GB手机约4,500部
1TB设备约1,152台
4MB照片约2.88亿张
70B级、FP8、100万Token会话约7,000个
若平均仅4TB/GPU仍有288TB
纠偏:此前把“三个2U节点”等同于1.15PB并不稳妥。以24块15.36TB SSD的2U节点为例,三节点只有约1.106PB原始容量,尚未扣除冗余和预留。实际可能需要更多节点,也可能使用更高容量盘;核心仍是Pod级共享设计。

三星不是Vera Rubin唯一NAND合作商,AMD也开始形成类似路径

平台/厂商公开动作介质与产品当前判断
Samsung 三星电子GTC展示PM1753用于CMX KV Cache卸载;HBM4面向Vera Rubin;PM1763 PCIe 6.0进入下一代AI平台验证。HBM4、SOCAMM2、TLC企业SSD组合最完整,但无独家证据。
Micron 美光HBM4已为首要客户平台大批量出货;PCIe Gen6高性能SSD与245TB QLC SSD量产;与Anthropic签署架构及供应合作。HBM4、DDR5、TLC/QLC SSDHBM与NAND双线受益,长协可见度最高。
Kioxia 铠侠 / Sandisk 闪迪第十代BiCS Flash在北上Fab2投产,样品优先面向企业及数据中心SSD;公开CM Series支持CMX方向。TLC、QLC、企业SSDNAND纯度更高,同时面对2027供给扩张。
Solidigm公开列出高性能TLC与高容量QLC SSD用于CMX型上下文层。D7、D5企业SSD高容量QLC潜在受益者。
AMD Helios72颗MI455X、31TB HBM4;AMD已预告Infinity Context与统一缓存方案,提出跨GPU低延迟存储层并将NVMe作为第四层。Samsung HBM4、DDR5、开放式NVMe方向趋同,尚未公布CMX式固定容量标准。
最新线索:AMD在2026年7月的技术议程中已把共享KV Cache、低延迟存储层、NVMe第四层和GPU发起的NVMe访问纳入ROCm路线。竞争焦点正在从“有没有类似CMX”转向“由封闭参考架构统一交付,还是由开放软件与第三方存储组合实现”。

2026年价格仍在上行,但HBM、DRAM与NAND已经出现节奏分化

本轮价格上行来自AI服务器需求、产能向HBM与服务器产品迁移、供应商库存偏低,以及客户抢先锁定产能。价格斜率在2026年第三季度开始放缓,但这不等于供给已经宽松。

1Q26传统DRAM合约价
+90%至95%
2Q26传统DRAM合约价
+58%至63%
1Q26 NAND合约价
+55%至60%
2Q26 NAND合约价
+70%至75%
1Q26企业SSD实际涨幅
约+80%

数据为TrendForce季度环比口径。HBM缺乏公开现货市场,多按年度和平台谈判,不应与季度DDR/NAND报价直接比较。

HBM

2026年合约价格受到年度定价限制,未完全跟随DDR5上涨。2027年HBM4谈判中供应商要求显著提价,TrendForce使用“数倍”措辞,但最终成交价仍待确认。

服务器DRAM

HBM占用先进DRAM晶圆与封装资源,服务器CPU放量又增加RDIMM需求。供给受限具有结构性,长协客户获得优先配额。

NAND与企业SSD

2026年预计存在4%至5%供给缺口。AI、服务器及企业SSD强劲,但消费手机和PC疲弱,节点迁移和QLC会在2027年增加比特供给。

二阶导数:价格仍可能上涨,但涨幅由极端水平回落。股票定价将逐渐从“本季涨价多少”转向“2027年合同、出货组合和供给追赶速度”。

存储行业从季度议价,转向多年Take-or-Pay与价格走廊

Micron的战略客户协议是这一变化最清晰的公开样本。其10-Q披露,协议包含多年约束数量、Take-or-Pay义务,多数协议采用固定价格或最低/最高价格区间。即使在价格底线,美光预计毛利率仍明显高于历史周期高点。

客户锁定容量按多年约定数量,确保AI、汽车和云平台不会因短缺停产。
价格设上下限客户控制极端上涨风险,供应商获得利润底线。
Take-or-Pay客户即使不完全提货,也承担合同付款义务。
供应商扩产用更高需求可见度支持厂房、设备与封装投资。

对周期性的影响

长协不会消灭存储周期,但会把一部分价格和数量波动从现货市场转移到合同谈判,并降低供应商在扩产时独自承担的需求风险。

投资人应区分的协议层级

MOU只代表合作方向;平台认证代表技术可用;LTA代表长期采购;Take-or-Pay与预付款才真正改变收入可见度和周期底部。

2026靠转产和节点迁移,2028以后才迎来更多绿地工厂增量

存储扩产不能只看宣布金额。厂房建设、设备搬入、节点爬坡、良率和客户认证之间通常相隔数季甚至数年。

2026 · CURRENT SUPPLY RESPONSE

现有厂房转向HBM、服务器DRAM和企业SSD

Samsung扩大HBM4产能并预计2026年HBM销售额超过三倍;Micron HBM4、Gen6 SSD与245TB QLC进入量产;Kioxia/Sandisk北上Fab2开始第十代3D NAND生产。

投资含义:短期供给主要是产品组合重分配,不是大规模新增晶圆。
2027 · FIRST MEANINGFUL RELIEF

节点迁移提高NAND比特供给,HBM4E与新DRAM节点放量

Micron计划2027年推进HBM4E和新加坡先进封装贡献;Kioxia北上Fab2爬坡;供应商继续通过高层数NAND和QLC提高单位晶圆容量。

投资含义:企业级高性能盘仍可能紧,NAND整体在下半年开始走向平衡。
2028 · LARGE FAB CONTRIBUTION

新增DRAM晶圆与先进封装产能逐渐显现

Samsung平泽P5计划作为HBM核心基地;Micron美国新厂逐步贡献;SK hynix美国及韩国封装项目进入更明确释放期。

投资含义:需要开始比较需求增速与新增晶圆,而不能只看当前缺货。
2029 · NAND GREENFIELD RISK

SK hynix M17等新NAND项目进入运营窗口

SK hynix于2026年7月宣布M17 NAND晶圆厂,计划2027年开工、2029年上半年运营,同时建设P&T7先进封装设施。

投资含义:2028至2029是本轮资本开支可能转化为供给压力的关键窗口。

怎样把产业逻辑映射到上市公司

公司最直接受益当前关键验证主要风险Kerwin研究姿态
SK hynixHBM份额、先进封装、服务器DRAMHBM4认证、M15X爬坡、2027合约价估值透支、2028供给回归核心观察
MicronHBM4、服务器DRAM、Gen6 SSD、QLCSCA覆盖比例、HBM4E、美国扩产节奏高毛利不可持续、资本开支上升双线受益
SamsungHBM4修复、SOCAMM、CMX SSD、AMD HeliosVera Rubin份额、PM1753/PM1763订单执行与认证、集团业务复杂等待份额证明
Sandisk / Kioxia企业SSD、QLC、北上Fab2、CMX容量层数据中心收入、10代NAND良率与客户2027比特供给增长、NAND周期性高弹性跟踪
Phison / Silicon Motion企业SSD控制器、GPU直连存储、CMX生态设计导入、单机柜控制器价值量原厂自研控制器、客户集中度二阶验证
NVIDIA / AMD平台定义权、DPU、网络、推理软件CMX/Infinity Context实际部署软件优化降低物理容量需求需求定义者

基础情景

  • HBM与服务器DRAM紧至2027年。
  • 企业SSD保持强劲,NAND整体2H27趋于平衡。
  • CMX先在长上下文与Agent集群选择性部署。

上行情景

  • 16TB/GPU成为高端推理集群常见配置。
  • AMD Infinity Context与ASIC平台同步采用共享NVMe层。
  • 客户以多年Take-or-Pay锁定NAND容量。

下行情景

  • MLA、KV量化与重计算显著降低缓存容量。
  • 消费需求继续疲弱,节点迁移导致NAND供给过快。
  • 2028资本开支集中释放,引发价格反转。
最值得持续监测的五个信号:每GPU实际配置TB数、CMX节点与SSD订单、2027 HBM4最终合同价、企业SSD合约价斜率、以及北上Fab2与中国NAND新增比特供给。

主要来源

优先采用公司官网、SEC文件、官方产品页和英文产业研究。页面中的16TB/GPU被明确标注为行业口径,NVIDIA官方可确认的口径为Pod级数PB共享容量。

NVIDIA CMX产品页CMX定义、合作伙伴、BlueField-4、DOCA Memos和Pod级上下文层。
NVIDIA BlueField-4 STX发布稿2026年3月16日发布、早期采用者、系统与存储合作伙伴。
NVIDIA CMX技术博客G3.5闪存层、数PB容量、KV Cache复用与性能目标。
NVIDIA BlueField极致协同更新2026年7月更新的KV I/O、元数据、预取和安全处理说明。
Samsung GTC 2026 AI MemoryHBM4、HBM4E、Vera Rubin及CMX相关企业SSD展示。
Samsung HBM4量产HBM4商业出货、容量、速度及2026年扩产计划。
AMD Helios产品页72颗MI455X、31TB HBM4和开放机架规格。
ROCm AMD Infinity Context共享跨GPU低延迟KV Cache存储层的官方技术议程。
Micron FY2026 Q3HBM4、Gen6 SSD、245TB QLC及战略客户协议。
Micron FY2026 Q3 10-QTake-or-Pay、固定价或价格上下限、供应保障与毛利框架。
TrendForce 1Q26价格DRAM、NAND与企业SSD价格增幅。
TrendForce 2Q26价格DRAM与NAND合同价格及LTA供给锁定。
TrendForce 2027 HBM谈判年度定价机制、HBM4价格谈判和DRAM晶圆挤压。
TrendForce NAND 2027展望2026年4%至5%缺口与2027年下半年可能恢复平衡。
SK hynix M17与P&T7投资2026年7月公布的NAND晶圆厂和先进封装计划。
Kioxia / Sandisk北上Fab2第十代3D Flash开始生产及多年比特增长计划。