A100 80GB
成熟的 Ampere 架构计算卡,适合深度学习训练、批量推理和通用 GPU 计算。
架构Ampere
显存80GB HBM2e
区域芬兰 / 加拿大
接口SXM4 / PCIe
适用场景
A100 可用于模型训练、微调、推理和 CUDA 计算。对于不依赖最新架构特性的工作负载,它通常能在性能、兼容性和成本之间取得平衡。
选择建议
先确认任务能否在 80GB 显存内运行,再根据是否需要多卡高速互联选择 SXM4 或 PCIe 配置。
当前可选配置
| 规格 | 区域 | 当前可用组合 | 更适合 |
|---|---|---|---|
| A100 SXM4 80GB | 芬兰 | 1 / 2 卡 | 训练、多卡计算 |
| A100 PCIe 80GB | 加拿大 | 单卡 | 推理、开发与通用计算 |
怎么选择
单卡
适合能装入 80GB 显存的训练、微调和推理任务,配置简单,也便于控制费用。
双卡 SXM4
适合需要模型并行或数据并行的任务。使用前应确认训练框架和通信配置。
改选 H100
如果任务依赖 FP8、Transformer Engine,或训练时间比单价更重要,可再比较 H100。
计费说明
创建实例时会同时确认 CPU、内存、系统盘和数据盘配置,最终单价以确认页为准。停止程序不等于停止计费,不再使用时应按控制台提示关机或释放实例。
常见问题
A100 80GB 能运行多大的模型?
不能只按参数量判断,还要考虑精度、上下文长度、批量大小、训练优化器和框架占用。建议先按真实任务做显存估算或短时间测试。
SXM4 和 PCIe 有什么区别?
两者都提供 80GB HBM2e。多卡任务更关注 GPU 间互联,普通单卡任务则更应比较整体配置、区域和价格。
库存会一直保持吗?
不会。库存按区域和卡数组合变化,控制台显示当前能创建的实例。
硬件规格参考:NVIDIA A100 80GB 数据表。
当前库存按区域和卡数分别计算,请在控制台确认。