整卡还是虚拟显卡
按使用时长计费。要稳定选整卡,要省钱选虚拟显卡(vGPU):一张卡按显存档位切分,显存独享,按算力份额计费。下面的档位、价格占比、CPU 和内存都按当前在售规格实时显示。
整卡还是虚拟显卡
要稳定,选整卡
- 适合生产系统和有 SLA 要求的线上服务
- 算力独享,延迟和吞吐稳定
- 适合多卡训练、大模型全精度和性能测试
要省钱,选 vGPU
- 适合开发调试、实验、测试环境和小模型推理
- 按显存付费,最低只要整卡约 17% 的价格
- 显存独享,同卡空闲时可接近整卡速度
虚拟显卡规格怎么选
| 显存 | 适合场景 | 价格占整卡 · CPU 和内存 |
|---|---|---|
| 24G | 7B / 8B 推理与调试,SD / SDXL 出图,向量化、语音识别 |
|
| 32G | 8B 正常对外服务,13B / 14B 量化,Flux 出图,7B / 8B LoRA 微调 |
|
| 48G | 14B 全精度,32B 量化,视频生成,14B LoRA 微调 |
|
| 80G | 32B 全精度,70B 量化,70B QLoRA 微调 |
|
| 96G | 32B 长上下文,70B int8 |
|
| 141G | — |
|
- · H200:大模型训练与推理;整卡 24 核 / 240G 内存 / 141G 显存
- · RTX PRO 6000 Blackwell Server:大模型推理、多模态;整卡 16 核 / 180G 内存 / 96G 显存
- · RTX PRO 6000 Blackwell Max-Q:大模型推理、多模态;整卡 16 核 / 160G 内存 / 96G 显存
- · RTX PRO 6000 Blackwell 工作站版:出图、视频、中小模型推理;整卡 14 核 / 40G 内存 / 96G 显存
- · RTX 4090 48G:入门训练、出图,大显存性价比高;整卡 12 核 / 90G 内存 / 48G 显存
RTX PRO 6000 单价更低,但算力约为 H200 的一半,CPU 和内存也更少(见规格表下方的整卡配置):适合出图、视频和中小模型推理;数据预处理重、要把大数据集读进内存、或要加载 32B 以上模型的任务,请选 H200。
虚拟显卡的限制
- ·显存独占,算力最低保证 1/5(H200)、1/4(RTX PRO 6000 Blackwell Server、RTX PRO 6000 Blackwell Max-Q、RTX PRO 6000 Blackwell 工作站版)、1/2(RTX 4090 48G),空闲时可突发到整卡;同卡用户多时速度会下降
- ·只能单卡,不支持多卡和 NVLink
- ·nvidia-smi 显示的是分到的显存
- ·只做按需(按秒计费,随时释放),不做独占和包月
「1/N」按这款卡最小的档位算(一张卡最多分 N 份);选更大的档位,同一张卡上的人更少,保证的算力更多。下单页按所选档位显示。
帮我选
约需 19.2G → vGPU 24G,RTX 4090 48G 整卡价的 50.2%(另有 RTX PRO 6000 Blackwell Server 25%、RTX PRO 6000 Blackwell Max-Q 25%、RTX PRO 6000 Blackwell 工作站版 25%)RTX 4090 48G 24G 虚拟显卡 ¥1.56/时
估算:显存 ≈ 参数量 × 每参数字节 × 1.2;长上下文、高并发建议再升一档。
使用小贴士
- ·显存按档独享,用满会报 OOM,选档时留约 20% 余量。
- ·先用 vGPU 调通,再换整卡上生产。
- ·推荐使用官方镜像,开箱即用。
- ·按需实例关机后 GPU 会释放给其他人,再开机时如果没有空闲资源会暂时开不了机;需要随时可用,请申请独占。
- ·vGPU 只做按需(按秒计费,随时释放),不做独占和包月。
- ·模型、数据和代码请放在本地 NVMe 盘(/local)或共享盘(/mnt)里:部分机房的实例停止、重启后系统盘清空(以实例详情的说明为准)。