H100 和 H200 差多少?61GB 显存差 ¥11.82 怎么选
H100 SXM5 ¥42.40/小时、H200 ¥54.22/小时,差价 ¥11.82(溢价 27.9%)。显存从 80GB 到 141GB 多 61GB。两者当前均暂时无货,价格可用于成本测算。
差价 ¥11.82 每小时、溢价 27.9%,换的是 61GB 显存
H100 SXM5 挂牌时租 ¥42.40/小时,H200 SXM5 为 ¥54.22/小时,差价 ¥11.82/小时,按 H100 计价溢价 27.9%。显存从 80GB HBM3 增到 141GB HBM3e,多出 61GB,这是两卡规格表里变化最大的一项。
H100 PCIe 是同代里的低配形态,¥19.48/小时、同为 80GB,比 H100 SXM5 便宜 ¥22.92。所以这张对比实际有三档价格、两个显存档。
| 型号 | 显存 | 区域 | 状态 | 时租 | 相对 H100 SXM5 |
|---|---|---|---|---|---|
| H100 SXM5 | 80GB HBM3 | 芬兰、加拿大、美国 | 暂时无货 | ¥42.40 | — |
| H200 SXM5 | 141GB HBM3e | 芬兰、加拿大 | 暂时无货 | ¥54.22 | +¥11.82 |
| H100 PCIe | 80GB HBM3 | 加拿大 | 暂时无货 | ¥19.48 | −¥22.92 |
三档当前均暂时无货。下面的价格对比用于估算预算和卡数,实际能否创建以控制台为准。
8 卡线性总价 ¥339.20 对 ¥433.76,差价放大到 ¥94.56
多卡按单卡价乘卡数计费,无折扣:8 张 H100 SXM5 是 ¥339.20/小时,8 张 H200 是 ¥433.76/小时,差价 ¥94.56/小时。8 张 H100 PCIe 是 ¥155.84/小时,比 H100 SXM5 的 8 卡方案省 ¥183.36。
| 卡数 | H100 SXM5 | H200 SXM5 | H100 PCIe |
|---|---|---|---|
| 1 卡 | ¥42.40 | ¥54.22 | ¥19.48 |
| 2 卡 | ¥84.80 | ¥108.44 | ¥38.96 |
| 4 卡 | ¥169.60 | ¥216.88 | ¥77.92 |
| 8 卡 | ¥339.20 | ¥433.76 | ¥155.84 |
卡数越多,H200 相对 H100 SXM5 的绝对差价越大。但在显存受限的场景里,多出来的 61GB 往往能减少卡数,把这笔差价重新抵掉——这正是下一节的反直觉结论。
70B FP16 权重 141GB,H200 单卡刚好装下而 H100 至少要 2 卡
70B 模型 FP16 权重约 141GB。H200 单卡 141GB 刚好等于权重大小,能装下但几乎没有 KV cache 余量;H100 单卡 80GB 装不下,至少需要 2 卡(160GB)才放得下权重,余 19GB 给 KV。
换句话说,H200 用 1 张就能起步,H100 SXM5 至少要 2 张。按无折扣计价,1 张 H200 是 ¥54.22/小时,2 张 H100 SXM5 是 ¥84.80/小时,H200 便宜 ¥30.58。
| 项目 | H200 SXM5 | H100 SXM5 |
|---|---|---|
| 单卡显存 | 141GB | 80GB |
| 70B FP16 权重 | 约 141GB | 约 141GB |
| 放权重所需卡数 | 1 卡(余量≈0) | 2 卡(余 19GB) |
| 对应总价/小时 | ¥54.22 | ¥84.80 |
但"装得下"不等于"跑得好"。单卡 H200 的 KV 余量接近零,长上下文推理仍要上第 2 张;那时 2×H200 是 ¥108.44,仍高于 2×H100 SXM5 的 ¥84.80。是否值,取决于你的序列长度。
13B 全参微调约需 208GB,2 张 H200 的 ¥108.44 低于 4 张 H100 的 ¥169.60
13B 全参微调(权重、梯度、优化器状态合计)约需 208GB 显存。H200 单卡 141GB 装不下,2 卡共 282GB 够用,总价 ¥108.44/小时;H100 SXM5 单卡 80GB,3 卡共 240GB 已够 208GB(¥127.20/小时),保守用 4 卡共 320GB 为 ¥169.60/小时。
这就是反直觉的地方:单价更贵的 H200,两卡总价 ¥108.44 反而低于 H100 SXM5 的三卡 ¥127.20、四卡 ¥169.60。省下的分别是 ¥18.76 和 ¥61.16/小时。原因是 141GB 的大单卡把卡数从 3–4 张压到 2 张。
| 方案 | 卡数 | 合计显存 | 总价/小时 | 相对 2×H200 |
|---|---|---|---|---|
| 2×H200 SXM5 | 2 | 282GB | ¥108.44 | — |
| 3×H100 SXM5 | 3 | 240GB | ¥127.20 | 多 ¥18.76 |
| 4×H100 SXM5 | 4 | 320GB | ¥169.60 | 多 ¥61.16 |
| 3×H100 PCIe | 3 | 240GB | ¥58.44 | 少 ¥50.00 |
这张表还有一个更便宜的选项:3 张 H100 PCIe 合计 240GB,总价只要 ¥58.44/小时。若微调任务对 SXM 互联不敏感,H100 PCIe 是成本最低的路径——代价是它当前同样暂时无货。
单卡推理与 LoRA 场景,¥19.48 的 H100 PCIe 更划算
单卡推理和 LoRA 微调不改变全部权重,显存需求远低于全参微调。在这类场景里,H100 PCIe 的 ¥19.48/小时是三档最低:比 H100 SXM5 省 ¥22.92,比 H200 省 ¥34.74。为 61GB 显存多付 ¥11.82,在不需要大显存的负载上没有收益。
判断顺序是先算显存占用,再决定是否上 H200:7B/13B 的量化或 LoRA 推理,单卡 80GB 通常够用,选 H100 PCIe;只有长上下文、大 batch 或多卡切分困难时,H200 的 141GB 才值那 ¥11.82/小时。
如果团队已有 H100 镜像、算子和基准数据,迁移到 H200 的验证成本也要计入决策。价格核验日 2026-11-20,三档均暂时无货,实际创建价以控制台确认页为准。
常见问题
- H100 SXM5 和 H200 每小时差价是多少?
- 70B FP16 推理需要几张 H100、几张 H200?
- 13B 全参微调用 H200 比 H100 便宜吗?
- 8 卡 H100 和 8 卡 H200 各要多少钱?
- 单卡推理和 LoRA 微调该选哪一档?