关键词选择：中国电力充足、100%光学、0%铜缆、功耗效率低、每瓦FLOP低2.6倍、每芯片14个收发器、线性可插拔光学元件

本文来自对 SemiAnalysis 文章的一些总结，大家看这篇文章就可以了。

华为CloudMatrix 384系统概述

华为推出的新AI加速器和机架级架构引起了广泛关注。CloudMatrix 384是中国最新、最强大的国产解决方案，采用了昇腾910C芯片构建。该解决方案直接与英伟达的GB200 NVL72竞争，在某些指标上甚至比英伟达的机架级解决方案更先进。其工程优势不仅体现在芯片层面，还体现在系统层面，包括网络、光学和软件层面的创新。

华为昇腾芯片对SemiAnalysis来说并不陌生，但在一个系统比微架构更重要的世界里，华为正在推动AI系统性能的极限。虽然存在权衡，但考虑到出口管制和国内不尽人意的良率，很明显中国的出口管制中存在进一步的漏洞。

虽然昇腾芯片可以在中芯国际(SMIC)制造，但这是一款全球性芯片，其HBM来自韩国，主要晶圆生产来自台积电(TSMC)，并且使用了来自美国、荷兰和日本价值数百亿美元的晶圆制造设备制造。

CloudMatrix 384的技术规格与性能

CloudMatrix 384包含384个通过全连接拓扑连接的昇腾910C芯片。权衡很简单：拥有五倍数量的昇腾芯片，足以弥补每个GPU性能仅为英伟达Blackwell三分之一的劣势。

一个完整的CloudMatrix系统现在可以提供300 PFLOPS的稠密BF16计算能力，几乎是GB200 NVL72的两倍。凭借超过3.6倍的总内存容量和2.1倍的内存带宽，华为和中国现在拥有能够超越英伟达的AI系统能力。

更重要的是，CM384独特地适应了中国的优势，即国内网络生产能力、用于防止网络故障的基础设施软件，并且随着良率的进一步提高，有能力扩展到更大的域。

这里的缺点是，它需要GB200 NVL72功耗的3.9倍，每FLOP功耗差2.3倍，每TB/s内存带宽功耗差1.8倍，每TB HBM内存容量功耗差1.1倍。功耗方面的不足是相关的，但在中国并非限制性因素。

中国没有电力约束，只有硅约束

西方普遍的说法是AI受限于电力，但在中国，情况恰恰相反。过去十年，西方一直致力于将以煤炭为主的电力基础设施转向更环保的天然气和可再生能源发电，并配合提高人均能源使用效率。中国的情况则相反，生活水平的提高和持续的重投资意味着巨大的发电需求。

这其中大部分由煤炭驱动，但中国也拥有最大的太阳能、水力、风能装机容量，并且现在是部署核电的领导者。美国仅仅维持着1970年代部署的核电能力。简单来说，升级和增加美国电网容量是一块丢失的肌肉，而中国自2011年以来，或者说大约在过去10年里，增加的容量相当于整个美国电网的容量。

如果你因为相对充裕的电力而没有电力约束，那么牺牲功率密度来增加扩展规模（包括在设计中使用光学器件）是有意义的。CM384的设计考虑了机架之外的系统级约束，不仅仅是相对的电力可用性限制了中国的AI雄心。华为的解决方案有多种持续扩展的方式。

中国能生产多少昇腾910C和CloudMatrix 384？

一个常见的误解是华为的910C是在中国制造的。它完全是在中国设计的，但中国仍然严重依赖外国生产。无论是三星的HBM，台积电的晶圆，还是美国、荷兰和日本的设备，都存在对外国产业的巨大依赖。

虽然中国最大的代工厂中芯国际(SMIC)确实拥有7nm工艺，但绝大多数昇腾910B和910C是使用台积电的7nm工艺制造的。事实上，美国政府、TechInsights和其他机构已经获取了昇腾910B和910C，每一个都使用了台积电的裸片(die)。华为能够通过另一家公司Sophgo购买价值约5亿美元的7nm晶圆，从而规避了针对他们使用台积电的制裁。

台积电因这次公然违反制裁的行为被罚款10亿美元，这只是他们获利的两倍。有传言称华为通过另一家第三方公司继续从台积电接收晶圆，但无法证实此传言。

华为的HBM渠道

对前沿外国技术的依赖是等式的一部分，但中国对HBM的依赖甚至更大。中国无法可靠地生产HBM，长江存储(CXMT)距离实现任何可观的量产还需要一年时间。幸运的是，三星伸出了援手，一直是向中国供应HBM的头号供应商，通过这种方式，华为得以在任何HBM禁令实施前囤积了总计1300万个HBM堆栈，可用于160万个昇腾910C封装。

此外，这种被禁止的HBM仍在被再出口到中国。HBM出口禁令是专门针对裸HBM封装的。带有HBM的芯片只要不超过FLOPS规定，仍然可以运输。CoAsia Electronics是三星HBM在大中华区的独家分销商，他们一直在出货HBM2E给ASIC设计服务公司Faraday，后者让日月光(SPIL)将其与一个廉价的16nm逻辑裸片一起进行"封装"。

然后Faraday将这种系统级封装(SiP)运往中国，这在技术上是允许的，但中国公司随后可以通过拆焊来回收HBM。他们采用了一些技术使得HBM非常容易从封装中提取出来，比如使用非常脆弱的低温焊料凸点，所以当说它被"封装"时，指的是最宽松意义上的封装。

CoAsia的收入自2025年以来（恰好在这些出口管制生效后）爆炸性增长，这绝非巧合。

中国国内代工厂仍可提升产能

外国生产仍然是必需的，但中国的国内半导体供应链能力已迅速提高，并且仍然被低估。SemiAnalysis一直持续对中芯国际(SMIC)和长江存储(CXMT)的制造能力敲响警钟。良率和产量仍然是问题，但问题在于中国GPU生产的长期增长会发生什么。

尽管受到制裁，中芯国际和长江存储都获得了价值数百亿美元的工具，并且仍然从外国接收大量独家供应的化学品和材料。

中芯国际正在上海、深圳和北京增加先进节点产能。他们今年将拥有近50,000片/月的产能，并且由于持续获得外国工具以及缺乏有效的制裁和执行，他们将继续扩张。如果他们提高良率，他们可以在华为昇腾910C封装上达到可观的数量。

虽然台积电在2024年和2025年提供了290万个裸片，足够生产80万个昇腾910B和105万个昇腾910C，但如果HBM、晶圆制造工具、工具服务以及光刻胶等化学品没有得到有效控制，中芯国际的生产潜力可能会大幅增长。

CloudMatrix 384系统架构

一个完整的CloudMatrix系统分布在16个机架上，其中12个计算机构架各包含32个GPU。在这16个机架的中间是4个用于扩展(scale-up)的交换机机架。为了扩大集群规模(world size)，华为跨多个机架进行扩展，为此华为不得不使用光学器件。要像华为这样将数百个GPU实现全连接(all-to-all)的扩展并非易事。

与DGX H100 NVL256 "Ranger"的相似之处

早在2022年，英伟达就宣布了DGX H100 NVL256 "Ranger"平台，但由于其所需的所有光收发器和两层网络导致其成本过高、功耗过大且不可靠，最终决定不投入生产。CloudMatrix Pod需要惊人数量的6,912个400G LPO收发器用于网络连接，其中绝大多数用于扩展(scale-up)网络。

CloudMatrix384扩展(Scale-Up)拓扑

每个华为昇腾910C GPU拥有2,800Gbit/s的单向扩展(scale-up)带宽。这与英伟达GB200 NVL72的7,200 Gb/s的扩展带宽处于同一数量级。虽然NVL72的扩展网络通过直接驱动铜缆和相对紧凑的连接器来实现，但华为采取了"蛮力"方法，简单地为每个GPU使用7个400G收发器，以提供2,800 Gbit/s的扩展网络。

这种解决方案更昂贵，功耗更高，并引发了关于气流、安装和维护便利性的问题，但它确实完成了任务。

一个单层网络用于将所有GPU连接在扩展网络中。尽管每个GPU通过巨大的聚合带宽连接到网络。为了实现扩展(scale up)，它将连接到4个CloudEngine 16800模块化交换机中，形成一个单层扁平拓扑。这些交换机使用华为的线卡(line card)和交换矩阵平面(fabric plane)，它们进行信元喷洒(cell spraying)，这类似于Arista模块化交换机内部Broadcom的Jericho3线卡 + Ramon3交换矩阵卡。

扩展(Scale Up)全光纤，无铜缆

为扩展(scale up)配备5000多个收发器也引发了可靠性问题，需要高质量的容错训练软件来应对如此多的收发器。

每个CloudMatrix 384 pod拥有6,912个400G光模块/收发器——5,376个用于扩展(scale-up)，1,536个用于扩展(scale-out)。

每个pod包括384个昇腾910C芯片，每个芯片提供2.8 Tbps的互连带宽用于扩展通信。因此，每个芯片需要7个400G收发器，对于384个GPU，总共需要384 × 7 = 2,688个收发器。由于这是一个扁平的单层拓扑，交换机侧需要另外2,688个收发器来匹配GPU侧。总而言之，扩展网络使用了5,376个400G收发器。

假设使用价格低于200美元、功耗约为6.5W的400G LPO收发器，超级节点扩展网络的总体拥有成本(TCO)大约是NVL72机架的6倍，而功耗则超过10倍。即使按每GPU计算，其功耗也是NVL72的两倍，成本相当（尽管其计算能力仅为30%）。

CloudMatrix 384扩展(Scale Out)拓扑估计

CloudMatrix 384采用两层8轨优化的拓扑结构。每个扩展(scale-out)的CloudEngine模块化交换机拥有768个400G端口，其中384个端口向下连接到384个GPU，384个端口向上连接。由于pod中有384个GPU，每个都配有一个400G NIC，因此至少需要1个叶(leaf)交换机来容纳它们，此外还需要0.5个脊(spine)交换机。

计算所需收发器的数量更简单。在GPU侧，需要384个400G收发器——每个GPU一个。在叶层(leaf layer)，需要两倍数量的收发器，因为将一半端口向下分配连接到GPU，一半向上连接到脊交换机(spine switches)。最后，在脊层(spine layer)，需要另外384个400G收发器，以匹配来自叶层的总上行带宽。总而言之，这导致扩展(scale-out)网络需要384 × 4 = 1,536个400G收发器。

LPO收发器

华为可能用来降低集群功耗的一种方法是使用线性可插拔光模块(LPO)进行光传输。LPO指的是无需使用内部数字信号处理器(DSP)即可光学传输数据的光模块。

与使用DSP将模拟信号转换为数字信号以进行信号重定时/恢复，然后再转换回模拟信号的传统收发器不同，LPO将电信号直接（线性地）从主机传递到光学器件。这简化了模块设计，降低了功耗30%以上，并降低了成本。话虽如此，因为仍然需要大量的收发器，CM384集群的功耗仍然显著高于NVL72。

芯片层面

华为的昇腾910B和910C加速器是中国国产GPU中的佼佼者。考虑到他们面临的限制，它们提供了出色的性能。在芯片层面上，它们仍然不如英伟达的产品。

华为昇腾910C是910B的后续产品，实际上是将2个910B中介层放置在单个基板上：使每个芯片的计算和内存性能翻倍。

系统级功率预算

由于在扩展(scale-up)和扩展(scale-out)网络中广泛使用光收发器，这个384-GPU集群非常耗电。SemiAnalysis估计一个CM384超级节点的功耗接近500kW——是英伟达GB200 NVL72机架（约145kW）功耗的4倍以上。

然而，按每GPU计算，每个华为GPU的全系统功耗约为NVL72内B200 GPU的70-80%。总体而言，华为超级节点提供的FLOPS比NVL72多70%，但其架构设计最终导致每FLOP功耗差2.3倍，每TB/s内存带宽功耗差1.8倍，每TB HBM内存容量功耗差1.1倍。

然而，额外的费用和功耗只是中国为了匹配西方计算能力而可以承受的必要成本。如前所述，由于中国的能源相对充裕，考虑到国家安全的重要性，这种成本相对较低。中国的能源优势将是其在规模和速度上扩展数据中心的关键资产。

如果需要原文的可以联系笔者。

关键词汇表

- CloudMatrix 384 (CM384)：华为的AI超级节点系统，包含384个昇腾910C芯片

- 昇腾910C (Ascend 910C)：华为设计的AI加速器芯片

- GB200 NVL72：英伟达的竞争产品，包含72个GB200芯片

- HBM (High Bandwidth Memory)：高带宽内存，AI芯片的关键组件

- SMIC (中芯国际)：中国最大的半导体代工厂

- TSMC (台积电)：台湾半导体制造公司，全球领先的代工厂

- CXMT (长江存储)：中国存储芯片制造商

- Scale-up：扩展网络，用于连接同一集群内的GPU

- Scale-out：扩展网络，用于连接不同集群

- LPO (Linear Pluggable Optics)：线性可插拔光模块，一种光收发器

- PFLOPS：每秒千万亿次浮点运算，衡量计算能力的单位

- BF16：一种浮点数格式，常用于AI计算

- Sophgo：中国芯片设计公司，据报道帮助华为规避制裁

- CoAsia Electronics：三星HBM在大中华区的独家分销商

- Faraday：ASIC设计服务公司

- SPIL (日月光)：台湾半导体封装测试公司

- CloudEngine 16800：华为的高性能数据中心交换机