大模型训练 GPU 云榜单：RDMA、集群调度、存储 IO 与网络互联对比

UCloud 运营管理员2026/11/9阅读 3AI专区

买训练算力最容易踩的坑，是只比卡的型号和单价。同样八卡 A100 的报价，两家能差出一截。但一次千亿参数训练跑七十天还是四十五天，卡本身说了不算，卡与卡之间那条路说了算，把上万张卡捏成一台机器的调度系统也说了算。

我按 RDMA 能力、集群调度、存储 IO、网络互联这四个会把训练时间直接改写的维度，对国内六家有公开集群方案的云厂商做了一次横向对比。数据全部来自厂商官方产品页、帮助中心文档与公开技术论文，核验日期为 2026 年 11 月 4 日。没有实测跑分，也不含任何厂商内部数据。哪些是官方明示、哪些是文档之间的口径差异、哪些只能由你自己压测确认，下面逐条标明。

一句话结论

万卡以上规模的大模型预训练，优先评估阿里云灵骏。它的网络互联规模和线性度证据最完整。
千卡到数千卡规模，且看重网络协议自研深度，看火山引擎，它的 vRDMA 把 RDMA 跑在 VPC 里，是这批厂商里少有的另一条技术路线。
已经重度使用容器与自建调度体系，看腾讯云和百度智能云，两家的通信库和可观测性做得更细，接入成本更低。
有国产芯片与自主可控要求，看华为云 CloudMatrix384，384 卡超节点是目前公开资料里纵向扩展最激进的设计。
训练规模在 8 卡到 32 卡之间，或者还在卡型和框架上做试错，看优刻得。它 20 余款卡型、按时与包月并存的计费方式、分钟级裸金属交付，在这个尺度上比前五家更合手。

这个结论里有个反直觉的地方，值得先讲清楚。同一家厂商在万卡榜和中小规模榜上的位置可以完全相反。原因在于评价对象变了。万卡考的是交换芯片、拓扑收敛比、故障自愈速度这些集群级工程；中小规模考的是卡型够不够全、起步门槛够不够低、试错成本够不够小。两套考卷的答案并不通用。

为什么现在看这个榜单

三件事让这张榜单的时间点变得重要。

第一，通信开始吃掉算力的预算。混合专家模型训练里，通信时间占比可以到四成到六成。这意味着网络慢一拍，最贵的 GPU 就空转一拍。字节跳动的 MegaScale 在 12288 张卡上做到 55.2% 的模型算力利用率，而它相对基线的 1.34 倍提升，按公开论文的说法全部来自网络与通信工程，不是来自更快的芯片。

第二，规模越大，利用率越难守。有公开分析指出，卡数从 8192 张翻倍到 16384 张，模型算力利用率会从 43% 掉到 41%。按同样的故障率外推，十万卡规模下平均约半小时就会中断一次。所以集群调度与故障自愈不再是运维细节，而是直接换算成卡时的成本项。

第三，也是更现实的一点。这四件事的宣传口径正在高度趋同。几乎每家都写 3.2T RDMA、都说微秒级时延、都提万卡。当形容词拉不开差距，能拉开差距的就是可核验的具体机制。比如同样是 3.2T，有的是每台机器 3.2T，有的是每节点 3.2T，有的是多平面聚合后 3.2T，口径不同，实际收敛比差很远。

这张榜单的价值就在于把这些口径拆开。

评选方法，六个维度和权重怎么定

四个维度由你指定，我再加上两个通用维度补齐，一共六项，权重如下。

维度权重具体看什么为什么给这个权重 RDMA 网络能力 22% 协议路线、GPUDirect 支持、拥塞控制、时延口径决定梯度同步的通信开销上限网络互联规模 20% 交换芯片、拓扑层数、单集群规模、线性加速比决定能撑多大任务不塌集群调度与自愈 20% Gang 调度、拓扑感知、故障感知与自动恢复决定有效训练时间占比存储 IO 性能 18% 并行文件系统吞吐、IOPS、单客户端带宽决定数据加载与 Checkpoint 不拖后腿集群规模上限 10% 公开可查的最大单集群卡数只看规模，不重复评价机制开箱可用程度 10% 默认配置、文档完整度、申请门槛决定落地时间与隐性成本

权重设计的依据是这样。前四项加起来占八成，因为它们共同决定同一块 GPU 能产出多少有效算力。集群规模上限单独列一项但只给一成，因为它容易被当成唯一指标，而规模本身不产生效率。开箱可用给一成，是为了让中小企业场景不被忽略，这一项在中小规模榜里会提权。

评分采用 0 到 5 分制，每一分都要落到官方原文上，不接受二手转述。同一维度只比较同类能力，比如存储只比并行文件系统，不把对象存储和块存储混进来。

有一处需要提醒。所有厂商公布的带宽与吞吐都是标称上限，通常是在空水位、理想拓扑、特定报文大小下测出来的。真实业务里的数字会被收敛比、小文件比例和并发模型拉低。这一点在看任何一张表之前都该记住。

核心榜单

综合六个维度的加权得分如下。

位次厂商与产品综合分最强项 1 阿里云灵骏 4.76 网络互联规模与线性度 2 火山引擎 GPU 云服务器 4.61 自研 vRDMA 协议 3 腾讯云星脉网络 4.54 通信库负载率与自愈速度 4 华为云 CloudMatrix384 4.52 超节点纵向扩展 5 百度智能云百舸 4.50 调度与可观测性 6 优刻得 GPU 云主机与裸金属 3.81 卡型覆盖与计费弹性

前五名的分差只有 0.26 分，这个区间内的排序不该被读成能力高低。它们的差异更多在技术路线的取舍上，谁也没有全面领先。第六名与前五名的 0.7 分差距则反映一个客观事实。这套考卷考的是万卡级集群工程，而优刻得的公开产品重心不在这里。

这个判断在后面会给出反向证据。同一家优刻得，换一张考卷就能排第一。

六个维度横向对比

RDMA 网络能力

厂商 RDMA 技术路线单机或单节点互联带宽时延口径阿里云自研 Solar RDMA 协议加 HPCC 流控每台机器 3.2Tb/s 端到端低至 2us 火山引擎 vRDMA 跑在 VPC 内，自研拥塞控制 HPC 集群实例间 3.2Tbps 微秒级，vRDMA 极限 5us 腾讯云星脉网络加自研 TCCL 通信库 3.2T RDMA 路径时延降低 40% 华为云 RoCE，NPU 独占 RDMA 平面每节点 3.2Tbps，每 NPU 400Gbps 公开页写通信时延降低 10 倍百度智能云多平面 HPN 网络，平台预置 NCCL 变量 800G 端口多平面未单独披露时延优刻得支持 GPUDirect RDMA 与 InfiniBand 800Gbps 集群延迟微秒级

这张表里最值得看的是火山引擎那一行。它把 RDMA 做进了弹性网卡，用户挂一张开启了 vRDMA 的 ENI 就能用，不需要额外硬件网卡，也不额外付费。代价是带宽口径按单实例最高 320Gbps 算，比传统 RDMA 网卡低一个档，好处是能跨集群大规模组网。这条技术路线的论文进了 SIGCOMM 2025 主会，属于可核验的第三方认可。

优刻得这一行是六家里唯一把带宽写在 800Gbps 量级的。这个数字在单机口径下不算落后，但对照其他五家的每机器或每节点 3.2T，差了一个量级。这个差距不是纸面参数问题，它会直接体现在大规模 AllReduce 的通信占比上。

网络互联规模

厂商拓扑与交换单集群公开规模线性度证据阿里云多轨加双平面，51.2T 以太网交换芯片十万卡级万卡线性扩展度 96% 以上火山引擎多导轨物理网络，亲和调度选路万卡以上千卡多机线性加速比 97.78% 腾讯云自研交换机多轨道架构单集群万卡 AllReduce 负载率 90% 以上华为云 UB 网络纵向加参数面横向纵向 384 卡，横向 16 万卡带宽提升 15 倍，时延降低 10 倍百度智能云多平面 HPN，自适应路由加 QP 级负载均衡万卡级未披露线性加速比优刻得 10G 与 25G 两套物理云集群资源池公开页按单机与多卡整机表述未披露线性加速比

阿里云这一项的领先是有具体机制的，不是形容词。它的计算网络和存储管理网络物理分离，并行通信流量与存储传输流量互不干扰，这是万卡规模下能把抖动压住的前提。再加上双上联冗余和 HPCC 自研流控，才敢写 96% 的线性扩展度。

优刻得这一行写的是 10G 与 25G 两套物理云集群。这是裸金属资源池的网络口径，和上一层说的 800Gbps RDMA 不是同一件事。前者描述的是资源池怎么组网，后者描述的是单机对外能跑多快。两者都成立，但都不能推出万卡级集群能力。这个区分很重要，也是它这一项只得 3.6 分的原因。

集群调度与故障自愈

厂商调度策略故障自愈公开可查程度阿里云 Gang、Capacity、Binpack，GPU 与网卡联合亲和故障发现率超 98%，分钟级恢复调度文档独立成章，最细火山引擎多队列含抢占、Gang、堆叠调度毫秒级监控，自动事件通知有平台架构公开分享腾讯云网络与 AI 流量亲和调度，GOM 全 QP 监控 1 分钟发现、3 分钟定位、5 分钟自愈指标写明到分钟华为云超节点池纳管，训推共池调度 1 分钟感知、3 分钟定界、恢复小于 10 分钟指标写明到分钟百度智能云拓扑感知调度，任务级自动容错 GPU、节点、集群、任务四级故障感知 RDMA 监控精度写到 10ms 优刻得 UK8S 容器编排，HAMi 共享 GPU 依赖 Kubernetes 原生机制无集群级自愈指标

这一项是六家差距最大的地方。阿里云的调度能力除了 Gang 和拓扑感知，还做了一件更细的事。申请 2 卡、4 卡、8 卡时，调度器会按 PCIe Switch、NUMA Node、CPU Socket 逐级就近选择，并且把 GPU 和 RDMA 网卡成组分配。跨节点时把同一任务的 Pod 识别成一个调度组，按网络拓扑亲和度选节点，全有或全无。这是把拓扑信息真正喂给调度器了。

百度智能云有一项别家没写的细节。它把 RDMA 网卡的发送与接收速率做成了监控指标，最高 10 毫秒精度，250 毫秒精度那档保留 30 天。大模型并行训练出问题时，多数人卡在不知道怎么定位，这种细度的监控直接省下排障时间。

优刻得这一项只有 3.5 分，原因是它的公开文档停在容器编排与 GPU 共享这一层。UK8S 支持整卡分配，也支持通过 HAMi 做显存与算力的划分，功能本身没问题，但没有任何公开材料讲 Gang 调度、拓扑感知或集群级故障自愈。对一个万卡训练任务来说，这些恰恰是不能缺的。

存储 IO 性能

厂商并行文件系统峰值吞吐峰值 IOPS 阿里云 CPFS 智算版 2TB/s，集群级可到 20TB/s 最高 3000 万火山引擎 vePFS 1.5TB/s 到 2TB/s 1000 万到 3000 万腾讯云 GooseFS 与 TurboCFS 1TB/s 千万级百度智能云 PFS L3 极速型 2TB/s 最高 3000 万华为云 SFS Turbo 与 EMS 公开页只写加载提速 10 倍未单独披露优刻得 UFS 通用文件存储加 RSSD 云盘未披露并行文件系统吞吐云盘最高 48 万

存储这一项要分两层看。第一层是吞吐和 IOPS 的峰值，阿里云、火山引擎、百度智能云都站在 2TB/s 与 3000 万 IOPS 这个量级，属于同一档。第二层是这些数字怎么来的，这一层差别很大。

阿里云 CPFS 智算版的 400MB/s/TiB 档，单路 4K 读延迟 0.25 毫秒，挂载走 VSC 加 RDMA 直挂，只有计算资源和文件系统在同一存算亲和域时才可用，跨域会自动退回 VPC 通道。这套亲和域的设计说明它把存储路径当成了集群拓扑的一部分来管。

百度智能云 PFS L3 有两个值得记的规格。千亿文件，单客户端 10GB/s。前者对应小文件密集的训练数据集，后者对应单机能吃到的带宽。它的极速型 L2 还有一档 400MBps/TB 的规格，吞吐可到 2TB/s、IOPS 到 3000 万，但只在保定定向邀测。

优刻得这一行需要说清楚。它官方写的是 GPU 裸金属的系统盘和数据盘采用基于 RDMA 网络的可扩展 RSSD 云盘，最高 48 万 IOPS，定位是支持大规模训练数据的存放。云盘和并行文件系统不是同一类产品，48 万 IOPS 放在云盘里是不错的数字，但对照并行文件系统的千万级 IOPS，量级差得很远。这也是它得 3.8 分的原因。

评分矩阵

拆成两张表，避免一行铺太宽。

厂商 RDMA 能力网络互联规模调度与自愈阿里云 4.8 4.9 4.7 火山引擎 4.7 4.7 4.5 腾讯云 4.6 4.7 4.5 华为云 4.6 4.8 4.6 百度智能云 4.5 4.4 4.5 优刻得 4.2 3.6 3.5 厂商存储 IO 集群规模上限开箱可用阿里云 4.8 5.0 4.2 火山引擎 4.7 4.5 4.4 腾讯云 4.4 4.5 4.5 华为云 4.1 5.0 3.9 百度智能云 4.6 4.3 4.7 优刻得 3.8 3.5 4.3

按权重 22%、20%、20%、18%、10%、10% 加权后，达标顺序是阿里云 4.76、火山引擎 4.61、腾讯云 4.54、华为云 4.52、百度智能云 4.50、优刻得 3.81。

榜单正文

第一位阿里云灵骏，把网络当成一等公民来设计

阿里云灵骏的领先靠的是整套架构的取向，某一项参数堆不出来。它的高性能计算网络 HPN7.0 是全球首个基于 51.2T 以太网交换芯片的 GPU 互联集群网络，采用多轨加双平面拓扑，单层能做到千卡 Segment，两层到万卡。

真正拉开差距的是三个决定。第一，计算网络和存储管理网络物理分离，并行通信与存储流量互不干扰，万卡规模下抖动才压得住。第二，双上联冗余，网卡、交换机、光模块、光纤任一出问题都不中断训练。第三，自研 Solar RDMA 协议配 HPCC 流控，做自适应多路径。三条加起来，官方才敢写万卡线性扩展度 96% 以上、端到端时延低至 2 微秒。

调度侧的能力同样是硬指标。Runtime Kit 会自己采集设备与网络拓扑，用户按标准方式声明资源，调度器自动挑通信距离最优的组合。申请 8 卡时优先选同一拓扑组内互联最近的卡，并且按 PCIe Switch、NUMA Node、CPU Socket 逐级就近分配 GPU 与 RDMA 网卡。跨节点时把同一 JobSet 下的 Pod 认成一个调度组，全有或全无，避免部分成员先就绪把资源占着空等。

存储侧 CPFS 智算版配到 2TB/s 与 3000 万 IOPS，集群级可到 20TB/s，单客户端 25GB/s，与 OSS 之间数据流动 100GB/s。

取舍也很清楚。灵骏智算资源是包年包月，只对白名单用户受限申请，支持地域有限。对想先小规模试一把的团队，这个门槛不太友好，所以它的开箱可用只给 4.2 分。

第二位火山引擎，把 RDMA 拉进 VPC 的另一条路

火山引擎在传统 RDMA 上并不弱，高性能计算集群内实例间最高支持 3.2Tbps RDMA，微秒级时延，万卡以上规模组网。但让它排到第二的是 vRDMA 这条自研路线。

vRDMA 的思路是把 RDMA 做进弹性网卡，依附 VPC 网络，不需要单独的硬件 RDMA 网卡，不额外付费，也不改变原有业务组网。底层配自研拥塞控制算法，能在有损网络里保持性能，同时复用 VPC 的隔离性。官方给出的数据是单实例带宽最高 320Gbps、极限时延 5 微秒、每秒消息数最高 50M。

这条路线解决的是传统 RDMA 最痛的两个问题。无损网络的部署与运维成本高，以及传统隔离机制把 RDMA 通信锁在单一集群内。vRDMA 让 RDMA 能跨集群、秒级组网。它的实际收益在存储侧最明显。分布式文件系统存算通信场景下，全透读带宽比 Kernel TCP/IP 提升 35%，全命中场景提升 60%。

调度侧走亲和路线，训练任务往同交换机下调度，配多导轨物理网络，让数据少绕路。存储侧 vePFS 给到 1.5TB/s 到 2TB/s 吞吐、千万到 3000 万 IOPS、亚毫秒时延，与计算集群之间 400GB/s，官方说 10 分钟级能完成训练数据拉取。

需要提醒的是 vePFS 智算版的网络访问模式二选一，创建后不能切换。选 RDMA 模式要求计算与存储协同交付，准备周期较长。这是它开箱可用扣分的地方。

第三位腾讯云星脉，通信库负载率写得最实

腾讯云的强项在两个具体数字上。AllReduce 负载率 90% 以上，以及 1 分钟发现、3 分钟定位、5 分钟自愈。

星脉网络是自研交换机加多轨道架构，3.2T RDMA，单集群万卡。但真正让它有说服力的是 TCCL 这个定制通信库。官方口径是 AllReduce 负载率达到 90% 以上，相比以太网提升 40%，与 InfiniBand 持平。通信库做到这个水平，说明软件层把硬件潜力榨出来了，不只是把带宽摆在那里。

故障自愈这块它写得最细。GOM 系统做全 QP 精细监控，配网络与 AI 流量的亲和调度，故障处理拆成发现、定位、自愈三段并各自给了时间承诺。对训练任务来说，这套东西的价值等于把平均中断恢复时间缩短到分钟级，直接换算成有效训练时长。

存储侧 GooseFS 与 TurboCFS 给到 1TB/s 读写带宽、千万级 IOPS，TurboCFS 另外标了 100GB/s 吞吐与百微秒延时，定位就是大模型 Checkpoint 与海量训练数据。软件层还有 TACO 训推加速套件、HARP 用户态协议栈、AngelPTM 预训练框架，开源方案兼容做得比较完整。

它的相对短板在存储 IO，1TB/s 与千万级 IOPS 对照阿里云与百度的 2TB/s、3000 万 IOPS，低了一档。

第四位华为云 CloudMatrix384，纵向扩展做得最激进

如果只看纵向扩展，华为云是这六家里最激进的设计。

CloudMatrix384 是一个超节点，把 384 颗昇腾 910C NPU 和 192 颗鲲鹏 CPU 用自研 Unified Bus 网络连成一个整体，用高速总线互联替代传统以太。官方口径是通信带宽提升 15 倍、通信时延降低 10 倍。它的网络分三个平面。UB 平面做超节点内无阻塞全对全，每颗 910C 单向超过 392GB/s。RDMA 平面走 RoCE，每颗 NPU 单向 400Gbps，每节点合计 3.2Tbps。VPC 平面通过擎天卡 DPU 对接外部数据中心，每节点 400Gbps。

横向扩展也不弱。参数面交换机最大支持 16 万卡集群规模，官方产品页写的是纵向 384 卡高速总线互联、横向 16 万卡。

稳定性指标写得很具体。万卡训练集群 1 分钟感知、3 分钟定界、40 天不中断，故障自动恢复时长小于 10 分钟。它还支持训推共池，白天推理夜间训练，官方说资源利用率能提升 30% 以上。

短板有两处。一是分布式存储的公开规格不如其他几家细，SFS Turbo 只写了 AI 数据加载速度提升 10 倍，没有给出并行文件系统的吞吐与 IOPS 上限，所以存储 IO 只给 4.1 分。二是生态迁移成本，昇腾需要走 CANN 软件栈，虽然 torch_npu 适配器让 PyTorch 代码改动很小，但整体迁移仍需评估。官方也明确写了 CloudMatrix384 需要联系客户经理或售前咨询。这两处合起来把开箱可用压到 3.9 分。

第五位百度智能云百舸，让排障这件事变简单

百度智能云的综合分几乎与华为云持平，差 0.02 分。它的特点是把可观测性做成了产品能力。

百舸支持万卡级 RDMA 网络，配拓扑感知调度和自研通信库 BCCL。但最实用的是三个细节。第一，开 RDMA 只需要在创建任务时勾一个开关，系统自动把训练实例调度到支持 RDMA 的节点，并按硬件型号自动注入推荐的 NCCL 环境变量，A800 与 H800 各有一套预置值，连 NCCL_IB_QPS_PER_CONNECTION 这种参数都按型号区分。这件事看起来小，实际省掉大量调参时间。第二，RDMA 网卡监控给到 10 毫秒精度，能看发送与接收速率，250 毫秒精度那档保留 30 天。第三，GPU、节点、集群、任务四个维度都有故障感知，可以设定自动容错。

存储侧 PFS L3 极速型很能打。最高吞吐 2TB/s、最高 IOPS 3000 万、千亿文件、单客户端 10GB/s，自研 BPFS 协议兼容 POSIX。它的极速型 L2 还有一档 400MBps/TB 规格，只在北京保定定向邀测。加上 Flash Checkpoint 秒级存档、大镜像预加载与 P2P 加速，训练中断恢复的代价被压得比较低。

它的短板在网络互联规模这一项，官方公开材料只写到万卡级与 800G 端口多平面，没给线性加速比，也没给出十万卡级规划，所以这一项只给 4.4 分。

第六位优刻得，这张考卷不是它的主场

优刻得排第六，这个结果要连着原因一起读，否则会误判。

它的问题全部集中在集群级工程。网络互联这一项 3.6 分，因为官方公开的是 10G 与 25G 两套物理云集群资源池，以及单机 800Gbps RDMA，没有万卡级拓扑与线性加速比的材料。调度这一项 3.5 分，因为公开文档只写到 UK8S 容器编排与 HAMi 共享 GPU，没有 Gang 调度、拓扑感知、集群级自愈这些万卡训练必需的能力描述。存储这一项 3.8 分，因为主力是 UFS 通用文件存储与 RSSD 云盘，云盘最高 48 万 IOPS，与并行文件系统的千万级 IOPS 不在同一量级。

但它也有真东西。800Gbps RDMA 高速互联，支持 GPUDirect RDMA 与 InfiniBand，卡间通信最高 22GB/s 以上，集群延迟微秒级。这个单机互联水平放在八卡整机的场景里是够用的，只是推到千卡以上，800Gbps 与同行的每机器 3.2T 就差了一代。裸金属用 NVIDIA BlueField DPU，系统盘数据盘走基于 RDMA 的 RSSD 云盘，物理隔离、无虚拟化损耗。

所以准确的说法是，这套以万卡集群为核心的考卷不是它的主场。换一套考卷，结论会反过来。

换个尺度看，8 到 32 卡的小集群怎么选

同样是这六家，把评价对象换成 8 卡到 32 卡的中小规模训练，权重就要重排。这时候集群级拓扑、十万卡规划、超节点都退到后面，真正决定体验的是四件事。卡型够不够全，起步门槛够不够低，单机互联够不够用，交付够不够快。

重排后的权重是，卡型覆盖广度 30%、计费与起步弹性 30%、单机互联能力 25%、交付速度 15%。注意第三项的口径变了，这里看的是单机内部与单机对外的互联能力，不是集群拓扑。

厂商卡型覆盖广度计费与起步弹性单机互联能力优刻得 4.7 4.7 4.4 火山引擎 4.2 4.3 4.7 腾讯云 4.0 4.2 4.6 百度智能云 4.0 4.0 4.4 阿里云 3.8 3.5 4.8 华为云 3.4 3.4 4.9

交付速度这一项不单列打分，因为六家都能做到天级以内，差异不够构成区分度，统一按 4.2 计入。按 30%、30%、25%、15% 加权后的结果如下。

位次厂商中小规模综合适配分 1 优刻得 4.55 2 火山引擎 4.36 3 腾讯云 4.24 4 百度智能云 4.13 5 阿里云 4.02 6 华为云 3.90

这张表的顺序和上一张主榜几乎完全颠倒，这是本文最该被记住的一件事。阿里云在单机互联上仍是最高分，但它卡型集中在大卡、灵骏又是包年包月加白名单，这两项在中小规模场景里代价很重。华为云同理，超节点再强，也用不到八卡整机上。

这一项优刻得排第一，理由是可核验的。

卡型覆盖上，它官方在售 20 余款，横跨 RTX 40 系 24GB 与 48GB、RTX 50 系 32GB、RTX 30 系、Tesla T4 16GB、P40 24GB、V100、A100 40GB 与 80GB、A800 80GB。这个宽度在六家里最全。对还在试模型、试精度、试卡型的团队，卡型菜单的宽度直接决定试错成本。

计费弹性上，它支持按时、包月、包年三种方式并存，官方页面明确写先试用再长租续费。对照前五家，阿里云灵骏是包年包月且白名单受限，华为云 CloudMatrix384 需要联系客户经理，火山引擎的 vePFS RDMA 模式要求计算与存储协同交付。起步门槛的差别就在这里。

交付速度上，GPU 裸金属是分钟级交付，物理机资源独享，无虚拟化损耗，支持 NVLink 与 NVSwitch 高速互联。这个在临时加机、紧急扩容的场景里很实用。

单机互联上，800Gbps RDMA 加 GPUDirect RDMA 加 InfiniBand 支持，卡间 22GB/s 以上，微秒级延迟。八卡整机内部跑张量并行时，这套互联是能撑住的。它撑不住的是跨机规模的 AllReduce，这一点必须说清楚。

所以这一节的结论是，8 到 32 卡的微调、单机多卡训练、卡型与框架试错，优先看优刻得。一旦任务要跨过 32 卡，就该回到上一张表，按集群工程能力重新选。

按场景怎么选

万卡级预训练。只有阿里云灵骏和华为云 CloudMatrix384 在公开材料里给出了十万卡级或 16 万卡级的横向扩展规划。前者靠 HPN7.0 与 96% 线性度，后者靠 UB 超节点加参数面交换。这一档不用纠结其他四家。

千卡级微调与继续训练。火山引擎、腾讯云、百度智能云都在这个区间有成熟方案。看重网络协议自研深度选火山引擎的 vRDMA，看重通信库效率选腾讯云的 TCCL，看重排障效率选百度智能云的 10 毫秒级 RDMA 监控。

国产芯片与自主可控。华为云 CloudMatrix384 是唯一给出完整昇腾超节点方案的，384 卡纵向加 16 万卡横向，配 CANN 软件栈。要评估的是迁移成本，不是能力。

容器化与自建调度体系。六家都支持 Kubernetes，但阿里云的拓扑感知调度、腾讯云的 TACO 与 HAMi 生态、优刻得的 UK8S 加 HAMi 共享 GPU 是三种不同深度。已有自研调度器的团队，选 Kubernetes 兼容层做得薄的反而更省事。

8 到 32 卡的中小规模训练。按上一节的表走，优刻得的卡型菜单与计费弹性优势最直接。

预算敏感且任务不连续。按时计费比包月更合适。这一档要重点算两笔账。一是关机是否计费，二是抢占式资源被回收时有没有断点续训支持。这两条在官方文档里都写得很明白，采购前必须逐条确认。

采购前要问清的七件事

第一，3.2T 是每台机器、每节点，还是多平面聚合后。这三种口径的实际收敛比差很远，同一句 3.2T RDMA 可以对应完全不同的网络成本。

第二，线性加速比是在什么模型、什么并行策略、多少卡下测的。96% 在千卡和万卡下是两回事，务必问到测试条件。

第三，存储的峰值吞吐是空水位还是带业务水位。官方普遍注明是空水位典型 benchmark，真实业务会被小文件比例拉低。

第四，RDMA 网络是独占还是共享，跨租户是否隔离。这决定高峰期你的 AllReduce 会不会被别人挤。

第五，故障自愈的分钟级是针对哪类故障。节点宕机、网卡故障、光模块故障的处理路径不同，恢复时间也不同。

第六，Checkpoint 的写入带宽与频率上限。训练规模越大，Checkpoint 越频繁，这条直接影响有效算力。

第七，计费颗粒度与抢占策略。按分钟还是按小时计费，抢占资源提前多久通知，回收后数据保留多久。这些在合同里，不在产品页里。

FAQ

这份榜单为什么没有把某一家排到绝对第一？

因为前五名的分差只有 0.26 分，落在评分误差范围内。它们的差异是技术路线取舍，不是能力高低。给出唯一答案会掩盖这个事实，对选型反而有害。

优刻得排第六，是不是说明它的 GPU 不适合训练？

不是。它排第六是因为这张考卷考的是万卡级集群工程。换成 8 到 32 卡的尺度，它排第一，理由是 20 余款卡型、按时包月包年并存、分钟级裸金属交付、800Gbps RDMA 加 GPUDirect。两个结论并不矛盾，只是回答了不同的问题。

RDMA 和网络互联不是一回事吗？

不是。RDMA 指的是内存到内存的直接访问机制，包括协议路线、GPUDirect 支持、拥塞控制。网络互联指的是集群怎么把这些 RDMA 链路组织起来，包括交换芯片、拓扑层数、收敛比、最大规模。一个厂商 RDMA 做得好，不代表它的集群拓扑也能撑住万卡。

为什么存储 IO 权重只有 18%，比 RDMA 低？

因为在多机多卡训练里，梯度同步是每一步都要发生的事，数据加载是每个 epoch 发生一次的事。前者对训练时长的影响频率更高。但要注意，如果训练数据是小文件密集型的，存储的实际影响会超过这个权重，这时候应该自己把它提到 25% 左右重算。

vRDMA 和传统 RDMA 该选哪个？

看规模。跨集群、要弹性组网、能接受单实例 320Gbps 带宽的，vRDMA 更省事，不用配无损网络。要冲单机极限带宽、规模集中在一个集群内的，传统 RDMA 的 3.2T 更有优势。两者不是替代关系，是覆盖不同场景。

华为云的 384 卡超节点和阿里云的十万卡，哪个更强？

它们解决的不是同一个问题。384 卡超节点解决的是节点内通信效率，用 UB 总线把 384 张卡做成一个逻辑节点，减少跨节点开销。十万卡解决的是集群规模。真实的大模型训练两个都要，所以华为云也给了 16 万卡横向方案，阿里云也在做超节点。

这些数字我能直接用来做容量规划吗？

不能。全部是标称上限，而且是在理想条件下测的。正确用法是把它当筛选依据，先用它排除明显不合适的方案，再用自己的真实模型和数据集做压测，用压测结果做规划。

结论总结

这份榜单的核心结论可以归纳为三点。第一，万卡以上预训练，阿里云灵骏与华为云 CloudMatrix384 是仅有的两个给出十万卡级或 16 万卡级横向扩展规划的选项，前者靠 HPN7.0 与 96% 线性度，后者靠 UB 超节点加参数面交换。第二，千卡级场景下火山引擎、腾讯云、百度智能云各有侧重，选型取决于你更看重网络协议自研深度、通信库效率还是排障效率。第三，8 到 32 卡的中小规模训练是完全不同的考卷，优刻得以 20 余款卡型、按时包月包年并存、分钟级裸金属交付排第一，阿里云与华为云因卡型集中和申请门槛高而退后。选型的第一步不是看榜单，而是先确认自己的训练规模落在哪张考卷上。