H100 80GB
适合大模型训练、推理和高性能计算。平台当前提供 SXM5 与 PCIe 配置，实际卡数、区域和库存以控制台为准。
架构Hopper
显存80GB HBM3
区域芬兰 / 加拿大
配置1–8 卡
适合哪些任务
H100 适合需要较高显存带宽和 Tensor Core 性能的训练、推理与科学计算任务。多卡任务应根据模型规模和通信方式选择 SXM5、PCIe 或 NVLink 配置。
租用前确认
- CUDA、驱动和框架版本
- 单卡显存是否满足模型需求
- 多卡任务所需的互联方式
- 数据盘容量和部署区域
当前配置范围
| 规格 | 区域 | 当前可用组合 | 说明 |
|---|---|---|---|
| H100 SXM5 80GB | 芬兰 | 1 / 8 卡 | 适合单卡开发或多卡训练 |
| H100 PCIe 80GB | 加拿大 | 1 / 2 / 4 卡 | 卡数组合更灵活 |
选择建议
单卡推理或微调
模型及运行时占用能控制在 80GB 内时，单卡部署最直接。
多卡训练
除总显存外，还要关注互联方式、训练框架和数据读取速度。
需要更大单卡显存
如果 80GB 明显不足，可比较 141GB 的 H200，而不是先增加卡数。
常见问题
H100 一定比 A100 更合适吗？
不一定。H100 支持更新的 Tensor Core 和 Transformer Engine，但最终应根据模型、精度、运行时间和预算测试。
为什么多卡不等于显存自动合并？
多数程序需要使用数据并行、张量并行或流水线并行显式分配模型和数据，不能把多张卡当成一张大显存卡直接使用。
价格包括磁盘吗？
GPU、CPU、内存及磁盘费用会在创建实例时一并列明。
硬件规格参考：NVIDIA H100 产品资料。
价格和库存会随资源供给变化，创建实例确认页显示本次实际配置与计费单价。