起源算力 / GPU 型号 / GPU 选型指南

GPU 型号怎么选?从显存、架构与预算三步定位

7B 推理看 L40 ¥7.82/小时,13B 微调看 H100 PCIe ¥19.48,70B FP16 看 B200 ¥76.17 或 B300 ¥100.46。按分钟结算、1 小时起租、多卡无折扣。

四步决策树按显存、卡数、形态、区域依次收窄,最后才对预算

选型不是从价格表往下挑,而是四步过滤:先定显存需求,再算单卡能否装下、需要几张,然后选 SXM 或 PCIe 形态,最后按区域与库存状态确认能否创建。价格是每一步的约束,不是起点。

步骤判断内容输出
1 显存需求模型权重、KV cache、优化器状态合计显存下限(GB)
2 卡数单卡能否装下,装不下需几张卡数与线性总价
3 形态SXM 互联或 PCIe 单卡具体型号
4 区域与状态可租用还是暂时无货能否立即创建

全系单卡时租从 ¥1.21 到 ¥100.46,跨度超过 80 倍。跳过显存直接看价格,很容易选到装不下模型的低价卡。

第一步按模型规模定显存下限,7B 看 48GB、13B 看 80GB、70B 看 141GB 以上

显存需求由三部分相加:模型权重、推理时的 KV cache、训练时的梯度与优化器状态。7B 量化推理 48GB 够用,13B 微调需要 80GB 起步,70B FP16 仅权重就约 141GB。

模型规模典型负载显存下限参考型号
7B量化推理、LoRA16–48GBL40、RTX A4000
13BFP16 推理、LoRA80GBA100 PCIe、H100 PCIe
13B全参微调(约 208GB)208GB2×H200 或 3–4×H100
70BFP16 推理141GB 以上H200、B200、B300

先算出你的显存下限,再去索引表里筛容量大于等于该值的型号,这一步能砍掉一半以上选项。

第二步按单价乘卡数算总价,多卡没有任何折扣

单卡装不下时要拆分到多卡,总价等于单卡价乘卡数:8 张 B300 是 ¥803.68/小时,8 张 A100 PCIe 是 ¥84.32/小时。多卡无折扣,卡数线性放大成本。

这里要避免一个常见误判:单价贵的卡可能因为减少卡数而总价更低。13B 全参微调约需 208GB,2 张 H200 合计 282GB、总价 ¥108.44/小时,低于 4 张 H100 SXM5 的 ¥169.60/小时。所以第二步要和第一步反复核对,而不是一次算完。

8 卡线性总价对照:A100 PCIe ¥84.32、A100 SXM4 ¥152.08、H100 PCIe ¥155.84、H100 SXM5 ¥339.20、H200 ¥433.76、B200 ¥609.36、B300 ¥803.68。

第三步按 SXM 与 PCIe 的形态差价定互联,A100 差 ¥8.47、H100 差 ¥22.92

同代里 SXM 比 PCIe 贵:A100 差 ¥8.47/小时,H100 差 ¥22.92/小时。这笔钱买的是板卡形态与多卡互联能力,不是显存——四张 80GB 卡的容量完全相同。

多卡训练、需要卡间高速通信时选 SXM;单卡推理、成本优先或已有 PCIe 软件链路时选 PCIe。显存够用而吞吐不急的场景,PCIe 更省:A100 PCIe ¥10.54 比 A100 SXM4 便宜 ¥8.47,H100 PCIe ¥19.48 比 H100 SXM5 便宜 ¥22.92。

第四步按区域与库存状态收口,主力型号里 6 个可租用、5 个暂时无货

价格表里的型号并非都能立即创建。L40、RTX A4000、RTX 6000 Ada、A100 PCIe、A100 SXM4、B200 当前可租用;H100 PCIe、H100 SXM5、H200、B300、RTX PRO 6000 暂时无货。

暂时无货的型号价格仍可用于预算测算,但要等库存恢复。如果任务需要马上起步,把筛选范围限定在可租用的型号里:显存最高的是 B200 180GB,80GB 档是 A100 两款,48GB 档是 L40 与 RTX 6000 Ada。价格核验日 2026-11-20,实际状态以控制台为准。

三张分流表把推理、微调、训练分别映射到具体型号

推理看显存余量与并发,微调看是否全参,训练看多卡互联。三张表按各自的关键变量给出型号、时租与状态,可直接对照使用。

推理选型表

负载显存需求推荐型号时租状态
7B 量化推理16–48GBRTX A4000 / L40¥1.21 / ¥7.82均可租用
13B FP16 推理80GBA100 PCIe / H100 PCIe¥10.54 / ¥19.48可租用 / 暂时无货
70B FP16 推理141GB 以上H200 / B200¥54.22 / ¥76.17暂时无货 / 可租用
长上下文高并发180GB 以上B200 / B300¥76.17 / ¥100.46可租用 / 暂时无货

微调选型表

任务显存需求推荐型号参考总价/小时状态
7B–13B LoRA48–80GBL40 / A100 PCIe¥7.82 / ¥10.54可租用
13B 全参微调约 208GB2×H200 / 4×H100 SXM5¥108.44 / ¥169.60暂时无货
70B 轻量微调141GB 以上H200 / B300¥54.22 / ¥100.46暂时无货

训练选型表

任务形态需求推荐型号时租状态
单卡小批量训练PCIeA100 PCIe / H100 PCIe¥10.54 / ¥19.48可租用 / 暂时无货
多卡数据并行SXM 互联A100 SXM4 / H100 SXM5¥19.01 / ¥42.40可租用 / 暂时无货
大模型少卡训练大显存单卡B200 / B300¥76.17 / ¥100.46可租用 / 暂时无货

全系主力型号索引覆盖 ¥1.21 到 ¥100.46 的价格带

以下为 11 个主力型号,完整 SKU(17 项,含 L40S、RTX PRO 6000 CC/48GB、A100 SXM4 40GB、V100 等)见 产品目录。

型号显存时租状态适合场景
RTX A400016GB GDDR6¥1.21可租用轻量推理入门
L4048GB GDDR6¥7.82可租用推理、轻量微调
A100 PCIe80GB HBM2e¥10.54可租用成熟训练栈、省预算
RTX 6000 Ada48GB GDDR6¥12.99可租用推理、图形负载
A100 SXM480GB HBM2e¥19.01可租用多卡训练
H100 PCIe80GB HBM3¥19.48暂时无货单卡推理、微调
RTX PRO 600096GB GDDR7¥22.94暂时无货大显存推理
H100 SXM580GB HBM3¥42.40暂时无货训练吞吐
H200141GB HBM3e¥54.22暂时无货长上下文、少卡训练
B200180GB HBM3e¥76.17可租用大模型训练与推理
B300268GB HBM3e¥100.46暂时无货超大单卡容量

补充档位:L40S 48GB ¥16.16(暂时无货)、RTX PRO 6000 CC 96GB ¥26.00(可租用)、RTX PRO 6000 48GB ¥14.43(暂时无货)、A100 SXM4 40GB ¥13.47(暂时无货)、V100 16GB ¥1.83(暂时无货)。其中 RTX PRO 6000 CC 的 ¥26.00 是当前可租用档里显存最高的 96GB 选项。

三篇对比页承接相邻型号的深度比较

按显存档位,相邻型号的深度对比在三篇独立页面里展开:B300 与 B200 差 ¥24.29、显存差 88GB;H100 与 H200 差 ¥11.82、显存差 61GB;A100 与 H100 四档从 ¥10.54 到 ¥42.40。

对比页核心差价关键结论
B300 vs B200¥24.29/小时B300 每 GB 显存成本更低,但 B200 当前可租用
H100 vs H200¥11.82/小时13B 全参微调 2×H200 总价低于 4×H100
A100 vs H100¥10.54–¥42.40四档同为 80GB,差在架构、互联与形态

三篇对比页均含每 GB 成本、多卡线性总价与场景卡数测算。价格核验日 2026-11-20,最终创建价与库存以控制台确认页为准。

常见问题

查看产品目录 → 进入控制台