选购说明:整卡还是 vGPU
按使用时长计费。整卡算力独享;虚拟显卡(vGPU)按显存档位切分一张卡,显存独享、按算力份额计费。
1整卡还是 vGPU
要稳定,选整卡
- 适合生产系统和有 SLA 要求的线上服务
- 算力独享,延迟和吞吐稳定
- 适合多卡训练、大模型全精度和性能测试
要省钱,选 vGPU
- 适合开发调试、实验、测试环境和小模型推理
- 按显存付费,比整卡便宜
- 显存独享,同卡空闲时可接近整卡速度
2规格表
| 显存 | 适合场景 | 价格占整卡 · CPU 和内存 |
|---|
3帮我选
约需 19.2G,超过 0G,建议 整卡
估算:显存 ≈ 参数量 × 每参数字节 × 1.2;长上下文、高并发建议再升一档。
4使用小贴士
- ·显存按档独享,用满会报 OOM,选档时留约 20% 余量。
- ·先用 vGPU 调通,再换整卡上生产。
- ·推荐使用官方镜像,开箱即用。
- ·按需实例关机后 GPU 会释放给其他人,再开机时如果没有空闲资源会暂时开不了机;需要随时可用,请申请独占。
- ·vGPU 只做按需(按秒计费,随时释放),不做独占和包月。
- ·模型、数据和代码请放在本地 NVMe 盘(/local)或共享盘(/mnt)里:部分机房的实例停止、重启后系统盘清空(以实例详情的说明为准)。