训练算力
关注显存容量、卡间通信、数据读取和训练稳定性,适合从实验到多卡任务逐步扩展。
起源算力 / AI 算力服务
训练、微调、推理和科研计算对显存、吞吐、延迟与成本的要求不同。起源算力让你按任务选择资源,先验证,再扩展。
关注显存容量、卡间通信、数据读取和训练稳定性,适合从实验到多卡任务逐步扩展。
根据参数规模、精度、序列长度和 batch size 选择规格,避免只按模型名称估算。
重点比较并发、延迟、上下文长度和单次请求成本,适合部署前做实际基准测试。
| 场景 | 主要指标 | 常见风险 |
|---|---|---|
| 大模型训练 | 显存、吞吐、通信、训练时长 | 显存不足或多卡通信抵消性能收益 |
| 模型微调 | 显存余量、精度、batch size、数据管道 | 配置过高导致成本失控 |
| 在线推理 | 延迟、并发、上下文、稳定性 | 只看峰值性能,忽略实际请求成本 |
| 科研计算 | 镜像、CUDA、可复现性、运行时长 | 环境不一致导致重复配置和重跑 |
本文用于帮助选择 AI 算力资源,实际性能取决于模型、框架、精度、数据和并行方式。本文最后更新:2026-08-08。