起源算力 / GPU 选型指南 / H100 vs H200

H100 和 H200 差多少?61GB 显存差 ¥11.82 怎么选

H100 SXM5 ¥42.40/小时、H200 ¥54.22/小时,差价 ¥11.82(溢价 27.9%)。显存从 80GB 到 141GB 多 61GB。两者当前均暂时无货,价格可用于成本测算。

差价 ¥11.82 每小时、溢价 27.9%,换的是 61GB 显存

H100 SXM5 挂牌时租 ¥42.40/小时,H200 SXM5 为 ¥54.22/小时,差价 ¥11.82/小时,按 H100 计价溢价 27.9%。显存从 80GB HBM3 增到 141GB HBM3e,多出 61GB,这是两卡规格表里变化最大的一项。

H100 PCIe 是同代里的低配形态,¥19.48/小时、同为 80GB,比 H100 SXM5 便宜 ¥22.92。所以这张对比实际有三档价格、两个显存档。

型号显存区域状态时租相对 H100 SXM5
H100 SXM580GB HBM3芬兰、加拿大、美国暂时无货¥42.40—
H200 SXM5141GB HBM3e芬兰、加拿大暂时无货¥54.22+¥11.82
H100 PCIe80GB HBM3加拿大暂时无货¥19.48−¥22.92

三档当前均暂时无货。下面的价格对比用于估算预算和卡数,实际能否创建以控制台为准。

8 卡线性总价 ¥339.20 对 ¥433.76,差价放大到 ¥94.56

多卡按单卡价乘卡数计费,无折扣:8 张 H100 SXM5 是 ¥339.20/小时,8 张 H200 是 ¥433.76/小时,差价 ¥94.56/小时。8 张 H100 PCIe 是 ¥155.84/小时,比 H100 SXM5 的 8 卡方案省 ¥183.36。

卡数H100 SXM5H200 SXM5H100 PCIe
1 卡¥42.40¥54.22¥19.48
2 卡¥84.80¥108.44¥38.96
4 卡¥169.60¥216.88¥77.92
8 卡¥339.20¥433.76¥155.84

卡数越多,H200 相对 H100 SXM5 的绝对差价越大。但在显存受限的场景里,多出来的 61GB 往往能减少卡数,把这笔差价重新抵掉——这正是下一节的反直觉结论。

70B FP16 权重 141GB,H200 单卡刚好装下而 H100 至少要 2 卡

70B 模型 FP16 权重约 141GB。H200 单卡 141GB 刚好等于权重大小,能装下但几乎没有 KV cache 余量;H100 单卡 80GB 装不下,至少需要 2 卡(160GB)才放得下权重,余 19GB 给 KV。

换句话说,H200 用 1 张就能起步,H100 SXM5 至少要 2 张。按无折扣计价,1 张 H200 是 ¥54.22/小时,2 张 H100 SXM5 是 ¥84.80/小时,H200 便宜 ¥30.58。

项目H200 SXM5H100 SXM5
单卡显存141GB80GB
70B FP16 权重约 141GB约 141GB
放权重所需卡数1 卡(余量≈0)2 卡(余 19GB)
对应总价/小时¥54.22¥84.80

但"装得下"不等于"跑得好"。单卡 H200 的 KV 余量接近零,长上下文推理仍要上第 2 张;那时 2×H200 是 ¥108.44,仍高于 2×H100 SXM5 的 ¥84.80。是否值,取决于你的序列长度。

13B 全参微调约需 208GB,2 张 H200 的 ¥108.44 低于 4 张 H100 的 ¥169.60

13B 全参微调(权重、梯度、优化器状态合计)约需 208GB 显存。H200 单卡 141GB 装不下,2 卡共 282GB 够用,总价 ¥108.44/小时;H100 SXM5 单卡 80GB,3 卡共 240GB 已够 208GB(¥127.20/小时),保守用 4 卡共 320GB 为 ¥169.60/小时。

这就是反直觉的地方:单价更贵的 H200,两卡总价 ¥108.44 反而低于 H100 SXM5 的三卡 ¥127.20、四卡 ¥169.60。省下的分别是 ¥18.76 和 ¥61.16/小时。原因是 141GB 的大单卡把卡数从 3–4 张压到 2 张。

方案卡数合计显存总价/小时相对 2×H200
2×H200 SXM52282GB¥108.44—
3×H100 SXM53240GB¥127.20多 ¥18.76
4×H100 SXM54320GB¥169.60多 ¥61.16
3×H100 PCIe3240GB¥58.44少 ¥50.00

这张表还有一个更便宜的选项:3 张 H100 PCIe 合计 240GB,总价只要 ¥58.44/小时。若微调任务对 SXM 互联不敏感,H100 PCIe 是成本最低的路径——代价是它当前同样暂时无货。

单卡推理与 LoRA 场景,¥19.48 的 H100 PCIe 更划算

单卡推理和 LoRA 微调不改变全部权重,显存需求远低于全参微调。在这类场景里,H100 PCIe 的 ¥19.48/小时是三档最低:比 H100 SXM5 省 ¥22.92,比 H200 省 ¥34.74。为 61GB 显存多付 ¥11.82,在不需要大显存的负载上没有收益。

判断顺序是先算显存占用,再决定是否上 H200:7B/13B 的量化或 LoRA 推理,单卡 80GB 通常够用,选 H100 PCIe;只有长上下文、大 batch 或多卡切分困难时,H200 的 141GB 才值那 ¥11.82/小时。

如果团队已有 H100 镜像、算子和基准数据,迁移到 H200 的验证成本也要计入决策。价格核验日 2026-11-20,三档均暂时无货,实际创建价以控制台确认页为准。

常见问题

查看产品目录 → 进入控制台 返回选型指南