NVIDIA:垂直整合的 AI 工厂
Rubin GPU、Vera CPU、NVLink、ConnectX、BlueField、Spectrum-X 和软件栈共同设计。优势是性能确定性、部署速度和责任边界清晰。
- 系统优化最深
- 软件与网络控制力最强
- 客户锁定和平台溢价最高
从 Helios 到算力工厂:当 NVIDIA、AMD 与定制 ASIC 都从芯片竞争进入系统竞争,瓶颈如何迁移至 HBM、光互联、存储、网络、电力与液冷,并重写整个 AI 基础设施的利润池。
Helios 标志着 AMD 的竞争单位由 CPU 与 GPU 部件提升至机架级平台。微软、Meta 等客户合作已经覆盖硅片、系统、网络与软件路线图,但真正决定平台地位的,将是量产、软件、网络协同和长期运维。
AMD 的机会是成为开放式系统平台,给客户提供 NVIDIA 之外可规模化、可定制、可持续迭代的第二套基础设施。它的风险也来自同一处:开放生态若缺少统一调度与交付纪律,容易演变为多供应商碎片化。
英伟达、AMD 与 ASIC 阵营越深入系统级设计,就越能从全局识别算力损耗,进而主动推动 HBM、Scale-up、Scale-out、光互联、存储、电力和散热同步升级。该过程不会平均惠及所有供应商,利润将向能够解除关键瓶颈、且具备稀缺性的环节集中。
峰值 FLOPS 仍重要,但已不足以解释可计费 Token。系统产出取决于加速器利用率、数据供给、通信效率、软件调度、能源与散热等多个乘数。
任何一个乘数下降,都会让昂贵的 GPU 或 XPU 等待。系统平台公司的核心任务,是让每颗芯片尽可能长时间处于有效计算状态。
| 层级 | 过去的主要指标 | 系统级指标 | 价值迁移 |
|---|---|---|---|
| 芯片 | FLOPS、制程、单卡功耗 | 每瓦 Token、每美元 Token、持续满载 | 从峰值性能转向经济性 |
| 内存 | 单颗容量、带宽 | 模型可驻留规模、KV Cache 命中率、内存池效率 | HBM、DDR/LPDDR、CXL、SSD 分层协同 |
| 网络 | 端口速率 | 集体通信时间、拥塞尾延迟、故障恢复 | Scale-up、Scale-out 与光互联共同进入系统设计 |
| 数据中心 | IT 功率与机柜数量 | 可交付 MW、机架密度、冷却稳定性、上线周期 | 电力、液冷、配电与运维成为算力约束 |
NVIDIA、AMD 与定制 ASIC 并非简单的三种芯片,它们代表三种基础设施组织方式。客户将按工作负载变化、供应安全、软件锁定、成本和上线速度进行组合配置。
Rubin GPU、Vera CPU、NVLink、ConnectX、BlueField、Spectrum-X 和软件栈共同设计。优势是性能确定性、部署速度和责任边界清晰。
Helios 组合 MI455X、Venice、Pensando 与 ROCm,并借助开放机架、UALink、UEC、ODM 和客户共同设计扩张生态。
Broadcom、Marvell 与超大规模客户将模型、算法和网络需求直接嵌入 XPU 与系统。稳定推理负载下,成本与能效潜力突出。
Meta 同时扩大 AMD Helios 与自研 MTIA,NVIDIA 通过 NVLink Fusion 吸纳半定制 XPU,Broadcom 和 Marvell 同时向计算、网络与光学扩张。未来的真实格局更可能是多平台共存,而非单一架构完全取代另一架构。
当某一环节被强化,相邻环节会成为新的系统短板。下一轮资本开支因此从 GPU 向内存、互连、存储和能源扩散,而这些升级又反过来释放更多 GPU 有效算力。
单颗 GPU/XPU 处理更多参数、Token 和并发请求。
权重、激活值和 KV Cache 推动 HBM 容量与带宽升级。
更多加速器参与集体通信,Scale-up 延迟与带宽成为约束。
铜连接受距离、损耗和功耗限制,光开始向机架内外迁移。
长上下文、RAG、Checkpoint 与 Agent 记忆推动分层存储。
利用率与能效提升,更多 AI 场景跨过商业化门槛。
集群规模和调用量提高,开启下一轮瓶颈迁移。
先进制程、Chiplet、先进封装提高峰值算力。
TSMC · CoWoS/3D封装 · 定制计算模型、上下文与并发增长,容量与带宽同时升维。
SK hynix · Micron · Samsung从 NVLink、UALink 到 Ethernet,低延迟与无损网络成为集群效率核心。
Broadcom · NVIDIA · Marvell · AMD PensandoKV Cache、Checkpoint、数据湖与 Agent 状态进入计算热路径。
Enterprise SSD · CXL · Storage software机架功率和热密度抬升,决定系统能否持续满载。
配电 · UPS · 液冷 · 热管理系统平台能够直接看到通信等待、网络拥塞、SerDes 功耗和故障停机的真实成本。光互联因此不再只是交换机端口的附属件,而逐渐成为决定 AI 工厂规模上限的系统变量。
GPU/XPU 数量和单颗吞吐量提高,会使跨机架流量快于节点数量增长。800G 向 1.6T 迁移,200G/lane、DSP、EML、硅光和 CW 激光器的价值量继续提升。
机架级域继续扩大后,铜连接会受距离、插损、功耗和布线密度限制。OCI、CPO 与 Photonic Fabric 等路线开始把光从机架间推向交换芯片与加速器附近。
| 升级路径 | 系统驱动力 | 潜在受益环节 | 主要风险 |
|---|---|---|---|
| 800G → 1.6T | 交换容量与每节点带宽上升 | 光模块、DSP、EML、InP、连接器 | 价格下降快于出货增长 |
| 200G/lane → 400G/lane | 端口密度和功耗约束 | 高速 SerDes、激光器、调制器、先进封装 | 良率与测试复杂度 |
| Pluggable → LPO/LRO/CPO | 减少 DSP 功耗与电气损耗 | 硅光、CW 激光器、光引擎、封装测试 | 传统模块价值被重新分配 |
| Scale-out → Optical Scale-up | 扩大低延迟加速器域 | OCI、Photonic Fabric、光纤阵列、精密耦合 | 可靠性和可维修性门槛 |
系统级优化会把 HBM、主内存、CXL、NVMe SSD 与对象存储看成一套连续的数据层级。目标是把每一类数据放在满足时延要求的最低成本位置,并减少 GPU 等待和重复计算。
越靠近加速器,时延更低、单位容量成本更高。系统公司的能力在于动态决定数据温度、搬运路径和淘汰策略,而非简单增加某一层容量。
AI 对 NAND 的拉动将逐步从训练数据湖和高容量盘,延伸到推理上下文、Checkpoint、缓存与本地 Agent。真正值得跟踪的是企业级 SSD 容量、写入耐久、功耗、控制器和软件协同,而不能只用传统 PC 与手机 NAND 周期解释。
系统规模扩大与供应商利润增长之间不存在自动等号。平台公司会提高技术门槛,也会推进标准化、多供应商和年度降价。需要同时判断市场规模、单机价值量、份额与毛利率。
HBM、先进封装、高速 SerDes、1.6T 光互联、CPO/OCI、Scale-up 交换、液冷和高功率配电。共同特点是技术稀缺、验证周期长、系统失效成本高。
ODM、PCB、基板、通用连接器、企业级 SSD、普通光模块和服务器零部件。出货量可能提高,但平台议价、多供应商和单位价格下降会分流利润。
缺乏差异化的板卡、中间集成、低壁垒机箱与仅依赖单一平台的组件。系统公司可能通过标准化设计减少层级、压缩中间利润。
Helios 的成功标准不能只用签约客户和理论 Token 经济性衡量。平台地位最终取决于交付、软件、互连、供应链与盈利质量。
| 验证项目 | 需要看到的证据 | 若失败的含义 |
|---|---|---|
| 机架量产 | 2026 H2 按计划出货,2027 客户部署持续扩大 | 系统设计仍停留在样机与战略订单 |
| ROCm 生产成熟度 | 主流模型首日支持、迁移时间下降、故障定位能力提高 | 硬件性能无法转化为有效 Token |
| 开放互连协同 | UALink、Ethernet 与 Pensando 在大规模集群中保持低尾延迟 | 开放生态演变为系统碎片化 |
| 供应保障 | HBM、先进封装、基板、光互联与 ODM 同步放量 | 订单可见度无法转化为收入 |
| 利润质量 | 数据中心增长同时带来毛利额、现金流和营运资本改善 | 系统收入增长被高成本部件和库存吞噬 |
专题的核心并非给出单点预测,而是识别哪组事实会把 AMD 和产业链推向不同路径。
以下变量能够实质性确认或削弱“系统级竞争推动产业链协同螺旋”的判断。
Helios 的意义不止是 AMD 多卖一套机架。它说明所有主要算力阵营都在争夺系统定义权,而系统定义权将决定下一轮资本开支往哪里流、谁能收取平台溢价、谁会被标准化。
AI 基础设施正在由“芯片驱动”进入“系统协同”阶段。加速器性能每提高一轮,瓶颈就会向 HBM、互连、光通信、存储、电力或散热迁移。相邻环节的升级会提高系统利用率、降低 Token 成本,并创造更多需求,形成螺旋式上升。投资机会因此将从 GPU 扩散,但不会平均分配。最有价值的环节,是能够解除下一处系统瓶颈,并保有技术稀缺性和议价权的公司。
优先采用公司投资者关系、官方产品页和技术联盟资料。产业推演由 Kerwin 判断框架完成。
本专题由 Kerwin 确定研究命题、产业逻辑和判断边界,Enya 负责资料跟踪、证据交叉、结构化分析、网页排版与发布维护。
底层模型:GPT 5.6 Sol 及 Claude Fable 付费版