L40 48GB
适合推理、图形渲染、视频处理以及中等显存规模的计算任务。
显存48GB GDDR6
区域加拿大
配置1 / 2 / 4 卡
定位推理 / 图形
适用场景
L40 可用于模型推理、渲染、视频编解码和可视化任务。与 H100 等训练卡相比,应根据任务类型而不是只看显存选择。
选择建议
推理任务需要同时评估模型大小、并发数和响应时间;图形任务还需确认驱动与软件授权条件。
当前配置
| 规格 | 区域 | 当前可用组合 | 主要方向 |
|---|---|---|---|
| L40 48GB | 加拿大 | 1 / 2 / 4 卡 | 推理、图形、视频 |
选择 L40 的理由
模型推理
适合能装入 48GB 显存,并需要兼顾成本与吞吐的推理任务。
视频处理
适用于包含编解码、视觉处理或内容生成的工作流,仍需验证具体软件支持。
专业图形
适合渲染、可视化与图形计算;使用商业软件时应另行确认许可证。
常见问题
L40 适合大模型训练吗?
可以运行部分训练和微调任务,但对于强调高带宽多卡训练的工作负载,应同时比较 A100、H100。
48GB 是否够用?
取决于模型、精度、批量大小和上下文长度。推理可通过量化降低显存占用,但可能影响性能或精度。
L40 和 L40S 是同一个型号吗?
不是。本页对应当前可用的 L40;L40S 在后台有记录,但检查时处于无库存状态。
实时卡数和计费价格以控制台为准。