GPU 产品 / A100

A100 80GB

成熟的 Ampere 架构计算卡,适合深度学习训练、批量推理和通用 GPU 计算。

架构Ampere
显存80GB HBM2e
区域芬兰 / 加拿大
接口SXM4 / PCIe

适用场景

A100 可用于模型训练、微调、推理和 CUDA 计算。对于不依赖最新架构特性的工作负载,它通常能在性能、兼容性和成本之间取得平衡。

选择建议

先确认任务能否在 80GB 显存内运行,再根据是否需要多卡高速互联选择 SXM4 或 PCIe 配置。

当前可选配置

规格区域当前可用组合更适合
A100 SXM4 80GB芬兰1 / 2 卡训练、多卡计算
A100 PCIe 80GB加拿大单卡推理、开发与通用计算

怎么选择

单卡

适合能装入 80GB 显存的训练、微调和推理任务,配置简单,也便于控制费用。

双卡 SXM4

适合需要模型并行或数据并行的任务。使用前应确认训练框架和通信配置。

改选 H100

如果任务依赖 FP8、Transformer Engine,或训练时间比单价更重要,可再比较 H100。

计费说明

创建实例时会同时确认 CPU、内存、系统盘和数据盘配置,最终单价以确认页为准。停止程序不等于停止计费,不再使用时应按控制台提示关机或释放实例。

常见问题

A100 80GB 能运行多大的模型?

不能只按参数量判断,还要考虑精度、上下文长度、批量大小、训练优化器和框架占用。建议先按真实任务做显存估算或短时间测试。

SXM4 和 PCIe 有什么区别?

两者都提供 80GB HBM2e。多卡任务更关注 GPU 间互联,普通单卡任务则更应比较整体配置、区域和价格。

库存会一直保持吗?

不会。库存按区域和卡数组合变化,控制台显示当前能创建的实例。

硬件规格参考:NVIDIA A100 80GB 数据表

当前库存按区域和卡数分别计算,请在控制台确认。

查看当前配置返回产品列表