起源算力 / GPU 型号 / GPU 选型指南

GPU 型号选型指南

选择 GPU 时，先看任务的显存上限、计算精度、单卡或多卡方式，再比较架构、区域和实时价格。不要只按型号新旧或单小时价格排序。

选型维度显存 / 精度
任务范围训练 / 推理
覆盖型号8 个系列
价格依据实时库存
本文的判断顺序：显存是否够用 → 软件和精度是否兼容 → 单卡/多卡是否匹配 → 区域与价格是否适合。库存、区域和价格会变化，最终以创建实例时的公开确认信息为准。

按任务快速选择

大模型训练与微调

优先看显存、BF16/FP8 支持和多卡互联。大型训练通常优先考虑 H100、H200、B200 或 B300。

推理与模型部署

先按模型权重、KV cache、批量大小估算显存，再比较吞吐和成本。H100、H200 与 A100 适合不同规模的部署任务。

开发验证与中小规模训练

如果重点是框架验证、LoRA 微调、渲染或开发测试，可先比较 L40 和 RTX 6000 Ada 的显存、区域和价格。

预算敏感的长期运行

不要只看单卡价，要把显存、运行时长、数据位置、磁盘和多卡扩展一起计算。可从实时价格与库存筛选。

常见型号怎么区分

型号更适合关注什么型号页
A100成熟训练、推理、CUDA 生态兼容性；先确认 40GB/80GB 与卡型。查看 A100
H100 / H200高性能训练与推理；重点比较显存容量、精度支持和多卡需求。H100 · H200
B200 / B300新一代 Blackwell 任务；确认框架、镜像、精度和目标区域是否匹配。B200 · B300
L40 / RTX 6000 Ada开发验证、推理、渲染和中小规模训练；关注显存与成本平衡。L40 · RTX 6000 Ada
RTX PRO 600096GB 显存与专业图形/AI 工作负载；核对具体规格与库存状态。查看 RTX PRO 6000

深入对比：按型号直接查看

B300 vs B200

比较显存、Blackwell 工作负载、多卡需求与成本判断，适合大模型训练和高显存推理前的初步筛选。

H100 vs H200

重点看显存、并发、上下文长度和实际运行成本，适合训练与推理任务的型号比较。

A100 vs H100

从 CUDA 兼容性、显存、吞吐和迁移成本出发，判断成熟 A100 环境是否值得升级。

选型前必须确认的五个问题

  1. 模型权重、激活值、KV cache 和 batch size 加起来需要多少显存？
  2. 任务需要 FP32、FP16、BF16、FP8 还是特定 Tensor Core 能力？
  3. 程序能否有效使用多卡，是否依赖高速互联？
  4. 数据、用户和服务部署在哪个区域，网络延迟是否可接受？
  5. 除了 GPU 时租价，系统盘、数据盘、运行时长和释放规则如何计费？

查看实时型号与价格

型号、库存、可用区域和价格可能随资源变化。请先查看实时价格与库存，再打开具体型号页，最后以创建实例时显示的配置和价格为准。