GPU 型号怎么选?从显存、架构与预算三步定位
7B 推理看 L40 ¥7.82/小时,13B 微调看 H100 PCIe ¥19.48,70B FP16 看 B200 ¥76.17 或 B300 ¥100.46。按分钟结算、1 小时起租、多卡无折扣。
四步决策树按显存、卡数、形态、区域依次收窄,最后才对预算
选型不是从价格表往下挑,而是四步过滤:先定显存需求,再算单卡能否装下、需要几张,然后选 SXM 或 PCIe 形态,最后按区域与库存状态确认能否创建。价格是每一步的约束,不是起点。
| 步骤 | 判断内容 | 输出 |
|---|---|---|
| 1 显存需求 | 模型权重、KV cache、优化器状态合计 | 显存下限(GB) |
| 2 卡数 | 单卡能否装下,装不下需几张 | 卡数与线性总价 |
| 3 形态 | SXM 互联或 PCIe 单卡 | 具体型号 |
| 4 区域与状态 | 可租用还是暂时无货 | 能否立即创建 |
全系单卡时租从 ¥1.21 到 ¥100.46,跨度超过 80 倍。跳过显存直接看价格,很容易选到装不下模型的低价卡。
第一步按模型规模定显存下限,7B 看 48GB、13B 看 80GB、70B 看 141GB 以上
显存需求由三部分相加:模型权重、推理时的 KV cache、训练时的梯度与优化器状态。7B 量化推理 48GB 够用,13B 微调需要 80GB 起步,70B FP16 仅权重就约 141GB。
| 模型规模 | 典型负载 | 显存下限 | 参考型号 |
|---|---|---|---|
| 7B | 量化推理、LoRA | 16–48GB | L40、RTX A4000 |
| 13B | FP16 推理、LoRA | 80GB | A100 PCIe、H100 PCIe |
| 13B | 全参微调(约 208GB) | 208GB | 2×H200 或 3–4×H100 |
| 70B | FP16 推理 | 141GB 以上 | H200、B200、B300 |
先算出你的显存下限,再去索引表里筛容量大于等于该值的型号,这一步能砍掉一半以上选项。
第二步按单价乘卡数算总价,多卡没有任何折扣
单卡装不下时要拆分到多卡,总价等于单卡价乘卡数:8 张 B300 是 ¥803.68/小时,8 张 A100 PCIe 是 ¥84.32/小时。多卡无折扣,卡数线性放大成本。
这里要避免一个常见误判:单价贵的卡可能因为减少卡数而总价更低。13B 全参微调约需 208GB,2 张 H200 合计 282GB、总价 ¥108.44/小时,低于 4 张 H100 SXM5 的 ¥169.60/小时。所以第二步要和第一步反复核对,而不是一次算完。
8 卡线性总价对照:A100 PCIe ¥84.32、A100 SXM4 ¥152.08、H100 PCIe ¥155.84、H100 SXM5 ¥339.20、H200 ¥433.76、B200 ¥609.36、B300 ¥803.68。
第三步按 SXM 与 PCIe 的形态差价定互联,A100 差 ¥8.47、H100 差 ¥22.92
同代里 SXM 比 PCIe 贵:A100 差 ¥8.47/小时,H100 差 ¥22.92/小时。这笔钱买的是板卡形态与多卡互联能力,不是显存——四张 80GB 卡的容量完全相同。
多卡训练、需要卡间高速通信时选 SXM;单卡推理、成本优先或已有 PCIe 软件链路时选 PCIe。显存够用而吞吐不急的场景,PCIe 更省:A100 PCIe ¥10.54 比 A100 SXM4 便宜 ¥8.47,H100 PCIe ¥19.48 比 H100 SXM5 便宜 ¥22.92。
第四步按区域与库存状态收口,主力型号里 6 个可租用、5 个暂时无货
价格表里的型号并非都能立即创建。L40、RTX A4000、RTX 6000 Ada、A100 PCIe、A100 SXM4、B200 当前可租用;H100 PCIe、H100 SXM5、H200、B300、RTX PRO 6000 暂时无货。
暂时无货的型号价格仍可用于预算测算,但要等库存恢复。如果任务需要马上起步,把筛选范围限定在可租用的型号里:显存最高的是 B200 180GB,80GB 档是 A100 两款,48GB 档是 L40 与 RTX 6000 Ada。价格核验日 2026-11-20,实际状态以控制台为准。
三张分流表把推理、微调、训练分别映射到具体型号
推理看显存余量与并发,微调看是否全参,训练看多卡互联。三张表按各自的关键变量给出型号、时租与状态,可直接对照使用。
推理选型表
| 负载 | 显存需求 | 推荐型号 | 时租 | 状态 |
|---|---|---|---|---|
| 7B 量化推理 | 16–48GB | RTX A4000 / L40 | ¥1.21 / ¥7.82 | 均可租用 |
| 13B FP16 推理 | 80GB | A100 PCIe / H100 PCIe | ¥10.54 / ¥19.48 | 可租用 / 暂时无货 |
| 70B FP16 推理 | 141GB 以上 | H200 / B200 | ¥54.22 / ¥76.17 | 暂时无货 / 可租用 |
| 长上下文高并发 | 180GB 以上 | B200 / B300 | ¥76.17 / ¥100.46 | 可租用 / 暂时无货 |
微调选型表
| 任务 | 显存需求 | 推荐型号 | 参考总价/小时 | 状态 |
|---|---|---|---|---|
| 7B–13B LoRA | 48–80GB | L40 / A100 PCIe | ¥7.82 / ¥10.54 | 可租用 |
| 13B 全参微调 | 约 208GB | 2×H200 / 4×H100 SXM5 | ¥108.44 / ¥169.60 | 暂时无货 |
| 70B 轻量微调 | 141GB 以上 | H200 / B300 | ¥54.22 / ¥100.46 | 暂时无货 |
训练选型表
| 任务 | 形态需求 | 推荐型号 | 时租 | 状态 |
|---|---|---|---|---|
| 单卡小批量训练 | PCIe | A100 PCIe / H100 PCIe | ¥10.54 / ¥19.48 | 可租用 / 暂时无货 |
| 多卡数据并行 | SXM 互联 | A100 SXM4 / H100 SXM5 | ¥19.01 / ¥42.40 | 可租用 / 暂时无货 |
| 大模型少卡训练 | 大显存单卡 | B200 / B300 | ¥76.17 / ¥100.46 | 可租用 / 暂时无货 |
全系主力型号索引覆盖 ¥1.21 到 ¥100.46 的价格带
以下为 11 个主力型号,完整 SKU(17 项,含 L40S、RTX PRO 6000 CC/48GB、A100 SXM4 40GB、V100 等)见 产品目录。
| 型号 | 显存 | 时租 | 状态 | 适合场景 |
|---|---|---|---|---|
| RTX A4000 | 16GB GDDR6 | ¥1.21 | 可租用 | 轻量推理入门 |
| L40 | 48GB GDDR6 | ¥7.82 | 可租用 | 推理、轻量微调 |
| A100 PCIe | 80GB HBM2e | ¥10.54 | 可租用 | 成熟训练栈、省预算 |
| RTX 6000 Ada | 48GB GDDR6 | ¥12.99 | 可租用 | 推理、图形负载 |
| A100 SXM4 | 80GB HBM2e | ¥19.01 | 可租用 | 多卡训练 |
| H100 PCIe | 80GB HBM3 | ¥19.48 | 暂时无货 | 单卡推理、微调 |
| RTX PRO 6000 | 96GB GDDR7 | ¥22.94 | 暂时无货 | 大显存推理 |
| H100 SXM5 | 80GB HBM3 | ¥42.40 | 暂时无货 | 训练吞吐 |
| H200 | 141GB HBM3e | ¥54.22 | 暂时无货 | 长上下文、少卡训练 |
| B200 | 180GB HBM3e | ¥76.17 | 可租用 | 大模型训练与推理 |
| B300 | 268GB HBM3e | ¥100.46 | 暂时无货 | 超大单卡容量 |
补充档位:L40S 48GB ¥16.16(暂时无货)、RTX PRO 6000 CC 96GB ¥26.00(可租用)、RTX PRO 6000 48GB ¥14.43(暂时无货)、A100 SXM4 40GB ¥13.47(暂时无货)、V100 16GB ¥1.83(暂时无货)。其中 RTX PRO 6000 CC 的 ¥26.00 是当前可租用档里显存最高的 96GB 选项。
三篇对比页承接相邻型号的深度比较
按显存档位,相邻型号的深度对比在三篇独立页面里展开:B300 与 B200 差 ¥24.29、显存差 88GB;H100 与 H200 差 ¥11.82、显存差 61GB;A100 与 H100 四档从 ¥10.54 到 ¥42.40。
| 对比页 | 核心差价 | 关键结论 |
|---|---|---|
| B300 vs B200 | ¥24.29/小时 | B300 每 GB 显存成本更低,但 B200 当前可租用 |
| H100 vs H200 | ¥11.82/小时 | 13B 全参微调 2×H200 总价低于 4×H100 |
| A100 vs H100 | ¥10.54–¥42.40 | 四档同为 80GB,差在架构、互联与形态 |
三篇对比页均含每 GB 成本、多卡线性总价与场景卡数测算。价格核验日 2026-11-20,最终创建价与库存以控制台确认页为准。
常见问题
- GPU 型号怎么按显存需求分档?
- 7B 推理和 13B 微调各推荐哪张卡?
- 70B FP16 推理该选 B200 还是 B300?
- 多卡为什么不打折,总价怎么算?
- 哪些型号当前可租用、哪些暂时无货?