AI 算力基础设施正在从单卡竞争走向整机架、整集群、整数据中心竞争。GPU 仍是核心定价锚,但 HBM、NAND、高速互联、CPU 主机调度、先进封装、液冷供电已经不再是外围配套,而是决定整套 AI 工厂效率、成本和供给弹性的关键环节。
对投资来说,真正重要的不是押注单一算力路线,而是识别所有路线都绕不开的物理约束:高带宽内存、企业级闪存、先进封装、液冷供电、网络互联和 CPU 控制平面。无论 NVIDIA、AMD 还是 Google 自研 TPU 体系谁阶段性占优,底层约束都在把利润向存储、封装和系统级 CPU 平台推送。
AI 超级周期进入第二阶段后,市场不再只给 GPU 逻辑芯片定价。下一轮估值分歧的核心,是市场会不会承认存储正在基础设施化,CPU 正在从通用服务器部件回归为 AI 系统控制平面。如果仍把 HBM、DRAM、NAND 简单归类为传统周期品,就会低估本轮 AI Capex 对存储利润中枢、合同期限和估值方法的重塑。
Vera Rubin NVL72 的变化,不只是 GPU 换代,而是 NVIDIA 把计算、CPU、内存、DPU、NIC、交换、液冷和存储进一步系统化。行业报价显示,VR200 NVL72 约 500万至700万美元;GB200 NVL72 约 280万至340万美元;GB300 NVL72 约 600万至650万美元;Rubin Ultra NVL144 未来报价可上看 700万至880万美元。NVIDIA 并未公布官方定价,相关数字应视为行业报价区间。
| 型号 | 架构 | 行业报价口径 | 信息属性 | 投资含义 |
|---|---|---|---|---|
| GB200 NVL72 | Blackwell | $2.8–3.4M | 行业报价 | 上一代训练/HPC 基准 |
| GB300 NVL72 | Blackwell Ultra | $6.0–6.5M | 行业报价 | 推理需求推高整机价值 |
| VR200 NVL72 | Vera Rubin | $5.0–7.0M | 行业报价 | HBM4 + NAND + 液冷 + 网络同步升级 |
| VR300 NVL144 | Rubin Ultra | $7.0–8.8M | 早期报价 | 更高功率密度推动供电与散热链条 |
| 成本桶 | 主要受益方 | 确定性 | 判断 |
|---|---|---|---|
| GPU / 加速器逻辑芯片 | NVIDIA、AMD、Google/Broadcom、TSMC | 高 | GPU 或 ASIC 逻辑仍是整架价值锚,但系统价值正在外溢。 |
| CPU 主机与控制平面 | NVIDIA Vera、AMD EPYC Venice、Google Axion | 高 | 负责调度、数据输入输出、网络/存储控制、故障恢复和安全隔离,是 rack-scale 系统稳定运行的指挥层。 |
| HBM4 / HBM3e | SK 海力士、三星、美光 | 高 | 近端带宽和容量决定模型权重、激活、KV cache、训练状态能否驻留在加速器附近。 |
| 3D NAND / SSD | SanDisk、铠侠、美光、三星、SK 海力士/Solidigm | 中高 | 高吞吐数据集、Checkpoint、上下文缓存和推理状态保存,推动企业级 NAND 需求上移。 |
| 先进封装 | TSMC CoWoS、Intel EMIB、ASE | 高 | HBM 与逻辑芯片的物理集成决定上限,是 AI 产能扩张的核心瓶颈之一。 |
| 网络、DPU、光互联 | NVIDIA、Broadcom、Marvell、Astera、光模块链 | 高 | MoE 与长上下文推理让 scale-up / scale-out 网络成为系统性能关键。 |
在单机 GPU 时代,CPU 容易被视为服务器里的配套部件;但在 NVL72、Helios、TPU Pod 这种 rack-scale 架构中,CPU 的角色明显回归。原因很简单:GPU 和 TPU 负责矩阵运算,CPU 负责把任务、数据、网络、存储、安全和故障恢复组织成一个可持续运行的系统。
| 平台 | CPU / 主机配置线索 | GPU/TPU 与 CPU 的关系 | CPU 回归原因 |
|---|---|---|---|
| NVIDIA Vera Rubin NVL72 | 72 颗 Rubin GPU + 36 颗 Vera CPU,约 2 GPU : 1 CPU。 | Vera CPU 与 Rubin GPU、BlueField DPU、NVLink、Spectrum-X / InfiniBand 构成一体化系统。 | CPU 承担主机调度、数据预处理、通信控制、系统管理;DPU 分担网络、安全和存储 offload,CPU 不再只是“喂数据”的配件。 |
| AMD Helios | 72 颗 MI455X GPU 搭配 Zen 6 EPYC “Venice” CPU。 | CPU 与 MI455X、Pensando NIC、Ultra Ethernet / UALoE 共同构成开放 rack-scale 平台。 | 开放以太网路线下,CPU 更需要参与集群编排、I/O 路径管理、存储访问和容错调度。 |
| Google TPU | Ironwood 与 TPU 8 体系由 Google Axion CPU 主机承载;TPU 8i 服务器强调更多 CPU host。 | Axion CPU 负责 TPU 任务编排、数据输入输出和云内调度。 | 推理 agent 化后,连续请求、短期记忆、工具调用、数据访问和任务编排增加,CPU host 成为降低 TPU 空转的重要环节。 |
第一,模型训练和推理的瓶颈不只在矩阵乘法,也在数据到达速度。CPU 负责数据加载、解压、预处理、tokenization、任务切分和作业调度,一旦主机侧处理跟不上,昂贵的 GPU / TPU 就会等待。
第二,AI 集群越来越依赖网络与存储。Checkpoint 写入、参数恢复、远端对象存储访问、NVMe-oF、并行文件系统和 RDMA 路径都需要 CPU、DPU、NIC 协同。
第三,agentic AI 带来持续推理、工具调用、长上下文、多轮状态管理,CPU 的工作负载从“训练前准备”扩展到“在线服务编排”。
CPU 回归的本质,不是 CPU 重新取代 GPU,而是 AI 工厂需要更强的控制平面。NVIDIA 通过 Vera CPU 和 BlueField 把主机控制纳入自家系统;AMD 通过 EPYC Venice 和开放以太网路线强化平台适配;Google 通过 Axion CPU 把 TPU、存储和云调度绑定在一起。未来评估 AI 服务器,不应只看 GPU 数量,还要看 GPU:CPU 配比、CPU 内存容量、PCIe/CXL/I/O 通道、DPU/NIC offload 与存储路径。
SK 海力士 Q1 2026 营收同比增长 198% 至 52.6 万亿韩元,营业利润 37.6 万亿韩元。AI 芯片需求超过产能,价格环境仍然有利。对 HBM 投资来说,这意味着领先者的盈利弹性还没有被传统周期框架完全解释。
| 公司 | 产业位置 | 投资定位 | 主要风险 |
|---|---|---|---|
| SK 海力士 000660.KS | HBM 份额领先,Q1 2026 营收与利润创纪录。 | 核心受益 HBM 纯度最高,AI 记忆体定价权最强。 | 客户集中、三星追赶、AI Capex 预期下修。 |
| 三星电子 005930.KS | 与 AMD 签署 HBM4 供应合作,HBM4 进入关键追赶阶段。 | 反转弹性 DRAM、NAND、HBM、Foundry 多线联动。 | HBM 良率、劳资风险、Foundry 折价。 |
| 美光 MU | HBM4 36GB 12-Hi 面向 Vera Rubin 高量产,速率超过 11Gb/s,带宽超过 2.8TB/s;PCIe 6.0 SSD 同步量产。 | 美股映射 HBM + SSD + DDR5 多重受益。 | 市占率小于韩国双雄,估值已明显重估。 |
NAND 的逻辑变化比 HBM 更容易被低估。传统 NAND 需求来自手机、PC、消费级 SSD;AI 时代的新增需求来自高吞吐训练数据集、Checkpoint、KV cache、推理上下文缓存、近线数据热迁移,以及 QLC eSSD 对 nearline HDD 的部分替代。
更合理的推演是:AI 数据中心把数据分成热、温、冷三层。最热层需要 HBM;热数据和快速恢复层需要企业级 SSD / NAND;冷归档仍需要 nearline HDD。价值增量首先进入 eSSD / NAND,随后再传导至 HDD 冷存储。
2025 年从 Western Digital 分拆,成为美股市场少见的 NAND 纯度标的。AI 数据存储需求、企业级 SSD、QLC eSSD 与数据中心缓存层共同推动其重新定价。
铠侠是全球 NAND 供给格局中的关键变量,计划赴美发行 ADS。其与 SanDisk 在日本 Flash Ventures 合资产能深度绑定,是 AI NAND 供给链条中不可忽视的一环。
美光的 Vera Rubin 生态组合包括 HBM4、PCIe 6.0 数据中心 SSD 与 SOCAMM2。若 AI 推理进入长上下文与 agentic 工作负载阶段,美光不只是 HBM 供应商,也会是高端企业级 SSD 供应商。
AMD Helios 的核心卖点,是 72 颗 MI455X 加速器、31TB HBM4、约 1.4PB/s 聚合 HBM 带宽,以及 2.9 EFLOPS FP4 推理和 1.4 EFLOPS FP8 训练目标。按 72 颗 GPU 粗略折算,单颗 MI455X 对应约 430GB 级 HBM4 容量,显著高于当前主流 GPU 代际。这意味着更大的模型权重、更长上下文、更大的 KV cache 和更高比例的训练状态可以留在近端高带宽内存中。
但 HBM 容量变大,并不等于 NAND 需求下降。相反,更大的 HBM 会提高 GPU 同时处理的数据量,带来更重的训练数据读取、checkpoint 写入、失败恢复、参数快照、数据重放和推理缓存需求。Helios 采用开放 rack-scale 路线,初期更可能依赖 UALink over Ethernet、Ultra Ethernet、Pensando NIC、并行文件系统和 NVMe-oF 存储池,这会把企业级 SSD、网络存储和 CPU 主机 I/O 能力的重要性同步放大。
MI455X 高 HBM4 容量提升单架可承载模型规模;开放以太网互联降低封闭系统依赖;外部 NVMe / NAND 存储池承担训练数据、checkpoint、缓存和恢复;EPYC Venice CPU负责主机调度和 I/O 编排。AMD 路线不是“只有 GPU”,而是把 HBM、CPU、NIC、SSD、以太网交换统一推向开放 AI 基础设施。
Google Ironwood TPU 每颗芯片配置 192GB HBM3e、约 7.3TB/s 带宽,最大 pod 可扩展至 9,216 颗 TPU,对应约 1.77PB 的 HBM 池。TPU 8t 进一步强调训练场景,superpod 可扩展至 9,600 颗芯片和约 2PB HBM;TPU 8i 则面向推理和 agentic AI,强调更大的片上 SRAM、Axion CPU host、低延迟网络和持续推理效率。
Google 的路径不是把所有价值堆在单芯片 HBM 上,而是通过 TPU Pod、Axion CPU、Virgo / ICI 网络、Pathways / JAX 调度、TPUDirect Storage、Lustre/并行文件系统和云内对象存储形成一整套 AI Hypercomputer。大型训练和推理任务的真实存储压力,来自百 PB 级数据集、embedding table、checkpoint、推理日志、用户上下文、工具调用状态和模型版本切换。TPU 的 Pod 级规模越大,后端 NAND / SSD / 分布式文件系统的吞吐与恢复能力越重要。
| 平台 | HBM 需求 | NAND / SSD 需求 | CPU / Host 作用 |
|---|---|---|---|
| AMD Helios | 72 颗 MI455X,约 31TB HBM4,单 GPU 约 430GB 级容量,利好 HBM4 高容量堆栈。 | 开放 rack 需要高吞吐 NVMe、NVMe-oF、并行文件系统和 checkpoint 存储池,企业级 SSD 需求强。 | EPYC Venice 负责主机调度、I/O 管理、网络协议栈、数据预处理和容错恢复。 |
| Google Ironwood / TPU 8 | Ironwood 单芯片 192GB HBM3e,Pod 级 1.77PB;TPU 8t superpod 约 2PB HBM。 | 训练数据、embedding、checkpoint、推理上下文、工具调用状态依赖大规模 SSD / 分布式存储。 | Axion CPU host 负责 TPU 编排、数据输入输出、云调度和推理 agent 任务协调。 |
| NVIDIA Vera Rubin | 72 颗 Rubin GPU,20.7TB HBM4,1.6PB/s 聚合带宽。 | 行业报价称 VR200 机架包含约百万美元级 3D NAND 存储层,服务 checkpoint 和推理上下文。 | 36 颗 Vera CPU 形成约 2:1 GPU:CPU 配置,配合 BlueField DPU 做系统控制与 offload。 |
| 维度 | NVIDIA Vera Rubin NVL72 | AMD Helios / MI455X | Google TPU |
|---|---|---|---|
| 系统形态 | 72 GPU + 36 Vera CPU 整机架,NVIDIA 深度集成 L10 tray。 | 72 GPU 开放式 rack-scale 架构,HPE 已宣布采用。 | 自研 TPU Pod,云内垂直集成。 |
| 近端内存 | 20.7TB HBM4,1.6PB/s 聚合带宽。 | 31TB HBM4,约 1.4PB/s 聚合带宽,单 GPU HBM 容量更激进。 | Ironwood Pod 约 1.77PB HBM;TPU 8t superpod 约 2PB HBM。 |
| CPU / Host | Vera CPU + BlueField DPU,约 2 GPU : 1 CPU。 | EPYC Venice + Pensando NIC,开放以太网系统控制。 | Axion CPU host,TPU 8i 强调更多 CPU host 与 agent 推理编排。 |
| 互联路线 | NVLink 6 + Spectrum-X / InfiniBand。 | UALink over Ethernet / Ultra Ethernet 开放路线。 | Virgo / ICI / Boardfly 等云内网络。 |
| 存储逻辑 | Inference Context Memory Storage + 3D NAND 存储层。 | 开放生态依赖高端 SSD、并行文件系统、NVMe-oF 和网络存储。 | TPUDirect、Lustre、分布式文件系统和对象存储构成云内数据面。 |
| 投资含义 | NVIDIA 掌控系统利润,存储、CPU、DPU 和封装受益明确。 | AMD 路线强化 HBM4、EPYC、以太网、NIC 与企业级 SSD 需求。 | Google 证明自研 ASIC 也无法绕开 HBM、CPU host、SSD 和网络瓶颈。 |
AI 系统竞争从单卡性能转向整集群吞吐后,投资分析必须从“GPU 芯片”升级到“数据流动系统”。HBM 解决近端带宽,NAND 解决缓存与恢复,CPU 解决调度与输入输出,先进封装解决物理集成,网络解决集群通信。五者共同决定 AI 工厂真实效率。
AI 供应链的瓶颈不只发生在晶圆制造,也延伸到先进封装、激光器、PCB、供电、散热等相邻环节。对 AI 芯片来说,先进封装已经不只是后段工艺,而是决定 GPU、HBM、Chiplet 能否被组装成高性能系统的关键能力。
| 路线 | 代表企业 | 优势 | 约束 | 投资定位 |
|---|---|---|---|---|
| CoWoS | TSMC、ASE 等 | 旗舰 AI GPU 主流路线,HBM 集成能力强,客户需求高度确定。 | 产能紧张、台湾集中度高、扩产周期长。 | 核心仓位 |
| EMIB / EMIB-T | Intel Foundry | 用嵌入式硅桥连接多个 chiplet 与 HBM,减少大面积中介层依赖,具备成本、良率和美国本土封装优势。 | 外部客户量产验证仍在推进,生态信任和交付记录需要继续积累。 | 战略博弈 |
| OSAT 溢出 | ASE、Amkor 等 | 承接先进封装与测试外溢需求。 | 议价权弱于 TSMC,项目结构差异大。 | 卫星观察 |
EMIB 的全称是 Embedded Multi-die Interconnect Bridge,即嵌入式多芯片互连桥。它把小块硅桥嵌入封装基板,只在需要高速互连的位置放置硅桥,让逻辑芯片、I/O 芯片、HBM 或其他 chiplet 在局部区域进行高密度互联。
这与 CoWoS 的全硅中介层路线不同。CoWoS 更像在大面积硅中介层上搭建旗舰 AI GPU,适合 NVIDIA、AMD 这类最高带宽、最高集成度的训练芯片。EMIB 则更强调局部硅桥、模块化拼装和成本效率,适合多 chiplet、AI ASIC、推理加速器,以及希望降低对单一封装产能依赖的云厂商自研芯片。
英特尔的先进封装并不只有 EMIB。EMIB 解决横向 chiplet 互联,Foveros 解决垂直堆叠,EMIB-T 进一步强化电源输送、信号完整性和更大封装规模。AI 芯片进入 chiplet 化之后,英特尔要把封装变成 Foundry 业务的突破口。
Intel 的 EMIB 不是对 TSMC CoWoS 的简单取代,而是 AI ASIC 与推理芯片时代的第二封装路径。若 Google、Amazon、MediaTek、SK 海力士等客户在 EMIB 或 EMIB-T 上形成实质订单,Intel Foundry 的估值叙事就会从“先进制程追赶”扩展到“美国本土先进封装平台”。
核心看 SK 海力士的领先溢价,三星的追赶弹性,美光的美股映射。监测指标:HBM 合同期限、NVIDIA/AMD 平台认证、ASP、产能扩张节奏、AI Capex 指引。
核心看 SanDisk、铠侠、美光、三星、SK 海力士/Solidigm。监测指标:企业级 SSD ASP、QLC eSSD 渗透率、AI 推理存储架构、长期合同、铠侠 ADS 进度。
核心看 NVIDIA Vera、AMD EPYC Venice、Google Axion 及其背后的 Arm / x86 生态。监测指标:GPU:CPU 配比、主机内存、I/O 通道、DPU/NIC offload、CXL 生态和 AI 推理编排能力。
核心看 TSMC CoWoS 定价权,Intel EMIB / EMIB-T 的美国本土替代价值,以及 ASE/Amkor 的外溢机会。监测指标:CoWoS 产能、Intel Foundry 封装订单、EMIB-T 客户导入、封装均价、Google/AMD/ASIC 对封装路线的选择。
AI Capex 放缓:如果 Microsoft、Amazon、Alphabet、Meta 等超大规模云厂商下修 AI 基础设施资本支出,存储与封装的盈利弹性会被重新定价。
供给集中爬坡:HBM、DRAM、NAND 如果在 2027 年后同步释放供给,价格可能从极端短缺回到正常化,估值框架也会调整。
CPU / 主机侧低估:如果市场继续只看 GPU 数量,可能忽略 CPU、DPU、NIC 和存储 I/O 对系统利用率的约束;但若主机侧升级不能转化为客户可见性能,相关估值也会回落。
EMIB 商业化风险:Intel EMIB / EMIB-T 具备战略价值,但外部客户导入、良率、交付周期和生态信任仍需订单验证。
AI 算力周期的第一阶段,是 GPU 成为稀缺资产;第二阶段,是数据流动系统成为稀缺资产。HBM 负责把数据送到算力核心,NAND 负责让集群持续吞吐与快速恢复,CPU 负责调度和输入输出,先进封装负责把逻辑芯片和内存压进同一物理系统。
因此,本轮研究的最终结论是:AI 存储不是传统消费电子周期的简单延伸,而是 AI 基础设施资本开支的核心组成部分。CoWoS 代表最高端 AI GPU 的成熟封装路线,EMIB / EMIB-T 代表美国本土先进封装和 AI ASIC 时代的第二路径,CPU 则重新成为 AI rack-scale 系统的控制平面。市场若仍按旧周期股框架给存储、封装和 CPU 主机平台定价,反而会形成未来投资回报的主要分歧。