Cloud VPS · GPU
一块 GPU 显卡,并如实说明其中多少归您使用。
共 7 种规格,从每月 $2433.90 的 1× 整张显卡,到 NVIDIA B300 SXM 的 8× 整张显卡,配备 2304 GB VRAM。每种规格都标明所用显卡、VRAM 容量,以及是切片还是独享整卡;每种规格也只列出该显卡确实有货的城市。
规格
7 种规格、5 种显卡,以及各自的部署地点。
切片按切片定价,整卡按整卡定价,“您获得的资源”一栏会用供应商自己的表述写明是哪种。站点一栏并非整条产品线的覆盖范围,而是该具体规格有库存的地点。
从这里开始
产品线中档
NVIDIA H200 141 GB · 24 vCPU · 240 GB
G24-240-720
该产品线中一半规格更便宜,一半更贵;每 GB 每月 $26.19。
$6285.90/月
或缩小范围
该产品线共 7 台机器,按其最便宜的城市标价。
| 套餐 | 显卡 | VRAM | 您将获得 | 机器 | 搭建于 | 按月 |
|---|---|---|---|---|---|---|
| G8-96 | NVIDIA L40S | 48 GB | 1× 整张显卡 | 8 vCPU · 96 GB RAM · 40 GB SSD · 不计流量 | 🇵🇱 华沙 | $2433.90 |
| G24-240 | NVIDIA H100 | 80 GB | 1× 整张显卡 | 24 vCPU · 240 GB RAM · 40 GB SSD · 不计流量 | 🇫🇷 巴黎, 🇵🇱 华沙 | $4745.90 |
| G20-160 | AMD Instinct MI325X | 256 GB | 1× 整张显卡 | 20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB | 🇨🇦 多伦多 | $5343.90 |
| G24-240-720 | NVIDIA H200 | 141 GB | 1× 整张显卡 | 24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB | 🇺🇸 亚特兰大, 🇺🇸 纽约 | $6285.90 |
| G48-480 | NVIDIA H100 | 160 GB | 2× 整张显卡 | 48 vCPU · 480 GB RAM · 40 GB SSD · 不计流量 | 🇫🇷 巴黎, 🇵🇱 华沙 | $9491.90 |
| G64-768 | NVIDIA L40S | 384 GB | 8× 整张显卡 | 64 vCPU · 768 GB RAM · 40 GB SSD · 不计流量 | 🇵🇱 华沙 | $19469.90 |
| G224-3840 | NVIDIA B300 SXM | 2304 GB | 8× 整张显卡 | 224 vCPU · 3840 GB RAM · 40 GB SSD · 不计流量 | 🇫🇷 巴黎 | $99338.90 |
价格以美元计,不含税,续费价格与首次支付相同。按年计费在同一费率基础上享受 10% 折扣。没有开通费,除您所选期限外也没有最短期限。
您购买的是什么
一台挂载了显卡的 Linux 服务器,驱动栈由您自行负责。
这些机器是转售的供应商库存。这让您能用上我们原本无法提供的显卡,代价是失去我们经典平台的便利。两方面都列在下面。
显卡,若为切片则标明份额
如果某个规格是一块实体显卡的一部分,会明确写出,例如“一块 A16 的 2 GB 切片(共享显卡)”;如果是整块显卡,会写明数量。份额来自供应商自己的套餐定义,而非我们。这里不会把切片说成整卡。
纯 Linux,不预装软件栈
您获得 root 权限,系统为与其他产品相同的六个 Linux 镜像之一。NVIDIA 驱动、CUDA 和您的框架由您自行安装并保持更新。没有机器学习镜像,机器上也没有我们的任何代理程序。
此产品线不提供托管备份
每晚备份附加服务属于我们的其他一些产品线,而此产品线底层是另一个平台。请自行将备份移出机器,使用 restic、borg 或 rsync 备份到您掌控的存储,因为这里没有每晚备份附加服务可购买。
没有基准测试,因为我们的结果不代表您的
吞吐量取决于您的模型、批大小、精度和框架版本。我们公布显卡、VRAM 和份额;唯一值得信赖的测量是您在自己的工作负载上做的测量,而按月的期限足够短,让您可以完成测量。
订购
搭建机器前会确认库存。
这是 GPU 订单与 CPU 订单唯一不同的地方,值得在付款前而不是付款后阅读。
- 按订单搭建,而非一分钟开通
- 请预留一个工作日。订单会对照供应商在该城市该显卡的实际库存进行核实,确认后再搭建机器。
- 如果显卡已售出,您会最先知道
- 我们无法搭建的机器不会收取任何费用。我们会告诉您可以改为搭建哪些其他规格或站点,由您决定。
- 可用性因规格而异,而非按产品线统一
- 不同规格的覆盖范围不同:G8-96 在 1 个城市,G224-3840 在 1 个城市。配置器只提供所选规格有库存的站点,购物车会拒绝其他站点。
- 按月或按年,每台服务器由您选择
- 按年付费即预付十二个月,在同一费率基础上享受 10% 折扣。如果您提前销毁服务器,预付款项不予退还,因此默认按月计费。
- 与其他产品一样,自管理
- root 权限归您,系统补丁由您负责,驱动栈也由您负责。支持团队解答有关机器和网络的问题,不涉及您的训练任务。
- 更大的显卡需报价,不在列表中
- H100、H200 及 MI300 级别的容量每周都在变化。请发送邮件至 [email protected],注明显卡、使用时长和区域,我们会告诉您实际可订购的情况。
常见问题
每次 GPU 订购前我们都会被问到的七个问题。
包括两个会让我们丢掉生意的回答,这通常说明它们是真话。
GPU 是共享的吗?
我可以订购 H100 吗?
为什么开通不是即时的?
你们按小时计费吗?
我应该从哪个规格开始?
机器上安装了什么?
你们发布基准测试吗?
延伸阅读
下一步去哪里。
不确定 GPU 是否是正确选择