瑶池

整卡还是虚拟显卡

按使用时长计费。要稳定选整卡,要省钱选虚拟显卡(vGPU):一张卡按显存档位切分,显存独享,按算力份额计费。下面的档位、价格占比、CPU 和内存都按当前在售规格实时显示。

整卡还是虚拟显卡

要稳定,选整卡
  • 适合生产系统和有 SLA 要求的线上服务
  • 算力独享,延迟和吞吐稳定
  • 适合多卡训练、大模型全精度和性能测试
要省钱,选 vGPU
  • 适合开发调试、实验、测试环境和小模型推理
  • 按显存付费,最低只要整卡约 17% 的价格
  • 显存独享,同卡空闲时可接近整卡速度

虚拟显卡规格怎么选

显存适合场景价格占整卡 · CPU 和内存
24G7B / 8B 推理与调试,SD / SDXL 出图,向量化、语音识别
  • H200 17% · 4 核 36G
  • RTX PRO 6000 Blackwell Server 25% · 4 核 45G
  • RTX PRO 6000 Blackwell Max-Q 25% · 4 核 40G
  • RTX PRO 6000 Blackwell 工作站版 25% · 3 核 10G
  • RTX 4090 48G 50.2% · 6 核 45G
32G8B 正常对外服务,13B / 14B 量化,Flux 出图,7B / 8B LoRA 微调
  • H200 23% · 6 核 48G
  • RTX PRO 6000 Blackwell Server 33% · 5 核 59G
  • RTX PRO 6000 Blackwell Max-Q 33% · 5 核 52G
  • RTX PRO 6000 Blackwell 工作站版 33% · 5 核 14G
48G14B 全精度,32B 量化,视频生成,14B LoRA 微调
  • H200 34% · 8 核 72G
  • RTX PRO 6000 Blackwell Server 50% · 8 核 90G
  • RTX PRO 6000 Blackwell Max-Q 50% · 8 核 80G
  • RTX PRO 6000 Blackwell 工作站版 50% · 7 核 20G
  • RTX 4090 48G 100% · 12 核 90G
80G32B 全精度,70B 量化,70B QLoRA 微调
  • H200 56% · 14 核 120G
96G32B 长上下文,70B int8
  • H200 67% · 16 核 144G
  • RTX PRO 6000 Blackwell Server 100% · 16 核 180G
  • RTX PRO 6000 Blackwell Max-Q 100% · 16 核 160G
  • RTX PRO 6000 Blackwell 工作站版 100% · 14 核 40G
141G—
  • H200 100% · 26 核 224G
  • · H200:大模型训练与推理;整卡 24 核 / 240G 内存 / 141G 显存
  • · RTX PRO 6000 Blackwell Server:大模型推理、多模态;整卡 16 核 / 180G 内存 / 96G 显存
  • · RTX PRO 6000 Blackwell Max-Q:大模型推理、多模态;整卡 16 核 / 160G 内存 / 96G 显存
  • · RTX PRO 6000 Blackwell 工作站版:出图、视频、中小模型推理;整卡 14 核 / 40G 内存 / 96G 显存
  • · RTX 4090 48G:入门训练、出图,大显存性价比高;整卡 12 核 / 90G 内存 / 48G 显存

RTX PRO 6000 单价更低,但算力约为 H200 的一半,CPU 和内存也更少(见规格表下方的整卡配置):适合出图、视频和中小模型推理;数据预处理重、要把大数据集读进内存、或要加载 32B 以上模型的任务,请选 H200。

虚拟显卡的限制

  • ·显存独占,算力最低保证 1/5(H200)、1/4(RTX PRO 6000 Blackwell Server、RTX PRO 6000 Blackwell Max-Q、RTX PRO 6000 Blackwell 工作站版)、1/2(RTX 4090 48G),空闲时可突发到整卡;同卡用户多时速度会下降
  • ·只能单卡,不支持多卡和 NVLink
  • ·nvidia-smi 显示的是分到的显存
  • ·只做按需(按秒计费,随时释放),不做独占和包月

「1/N」按这款卡最小的档位算(一张卡最多分 N 份);选更大的档位,同一张卡上的人更少,保证的算力更多。下单页按所选档位显示。

帮我选

约需 19.2G → vGPU 24G,RTX 4090 48G 整卡价的 50.2%(另有 RTX PRO 6000 Blackwell Server 25%、RTX PRO 6000 Blackwell Max-Q 25%、RTX PRO 6000 Blackwell 工作站版 25%)RTX 4090 48G 24G 虚拟显卡 ¥1.56/时

估算:显存 ≈ 参数量 × 每参数字节 × 1.2;长上下文、高并发建议再升一档。

使用小贴士

  • ·显存按档独享,用满会报 OOM,选档时留约 20% 余量。
  • ·先用 vGPU 调通,再换整卡上生产。
  • ·推荐使用官方镜像,开箱即用。
  • ·按需实例关机后 GPU 会释放给其他人,再开机时如果没有空闲资源会暂时开不了机;需要随时可用,请申请独占。
  • ·vGPU 只做按需(按秒计费,随时释放),不做独占和包月。
  • ·模型、数据和代码请放在本地 NVMe 盘(/local)或共享盘(/mnt)里:部分机房的实例停止、重启后系统盘清空(以实例详情的说明为准)。