跳至正文

Cloud VPS · GPU

一块 GPU 显卡,并如实说明其中多少归您使用。

共 7 种规格,从每月 $2433.90 的 1× 整张显卡,到 NVIDIA B300 SXM 的 8× 整张显卡,配备 2304 GB VRAM。每种规格都标明所用显卡、VRAM 容量,以及是切片还是独享整卡;每种规格也只列出该显卡确实有货的城市。

渲染图:一张显卡,风扇朝上整卡或切分仅限有货时

规格

7 种规格、5 种显卡,以及各自的部署地点。

切片按切片定价,整卡按整卡定价,“您获得的资源”一栏会用供应商自己的表述写明是哪种。站点一栏并非整条产品线的覆盖范围,而是该具体规格有库存的地点。

从这里开始

最低门槛

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

该产品线中价格最低的;每 GB 每月 $25.35。

$2433.90/月

产品线中档

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

该产品线中一半规格更便宜,一半更贵;每 GB 每月 $26.19。

$6285.90/月

RAM 最多

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

该产品线中最大的:3840 GB;每 GB 每月 $25.87。

$99338.90/月

或缩小范围

磁盘
核心

该产品线共 7 台机器,按其最便宜的城市标价。

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · 流量不计量 · 华沙

    $2433.90/月

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · 流量不计量 · 2 个城市

    $4745.90/月

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB 流量 · 多伦多

    $5343.90/月

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB 流量 · 2 个城市

    $6285.90/月

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · 流量不计量 · 2 个城市

    $9491.90/月

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · 流量不计量 · 华沙

    $19469.90/月

所有 GPU 套餐,包括显卡、VRAM、占实体显卡的份额、配套机器、搭建地点及月价格
套餐显卡VRAM您将获得机器搭建于按月
G8-96NVIDIA L40S48 GB1× 整张显卡8 vCPU · 96 GB RAM · 40 GB SSD · 不计流量🇵🇱 华沙$2433.90
G24-240NVIDIA H10080 GB1× 整张显卡24 vCPU · 240 GB RAM · 40 GB SSD · 不计流量🇫🇷 巴黎, 🇵🇱 华沙$4745.90
G20-160AMD Instinct MI325X256 GB1× 整张显卡20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 多伦多$5343.90
G24-240-720NVIDIA H200141 GB1× 整张显卡24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 亚特兰大, 🇺🇸 纽约$6285.90
G48-480NVIDIA H100160 GB2× 整张显卡48 vCPU · 480 GB RAM · 40 GB SSD · 不计流量🇫🇷 巴黎, 🇵🇱 华沙$9491.90
G64-768NVIDIA L40S384 GB8× 整张显卡64 vCPU · 768 GB RAM · 40 GB SSD · 不计流量🇵🇱 华沙$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× 整张显卡224 vCPU · 3840 GB RAM · 40 GB SSD · 不计流量🇫🇷 巴黎$99338.90

价格以美元计,不含税,续费价格与首次支付相同。按年计费在同一费率基础上享受 10% 折扣。没有开通费,除您所选期限外也没有最短期限。

您购买的是什么

一台挂载了显卡的 Linux 服务器,驱动栈由您自行负责。

这些机器是转售的供应商库存。这让您能用上我们原本无法提供的显卡,代价是失去我们经典平台的便利。两方面都列在下面。

显卡,若为切片则标明份额

如果某个规格是一块实体显卡的一部分,会明确写出,例如“一块 A16 的 2 GB 切片(共享显卡)”;如果是整块显卡,会写明数量。份额来自供应商自己的套餐定义,而非我们。这里不会把切片说成整卡。

纯 Linux,不预装软件栈

您获得 root 权限,系统为与其他产品相同的六个 Linux 镜像之一。NVIDIA 驱动、CUDA 和您的框架由您自行安装并保持更新。没有机器学习镜像,机器上也没有我们的任何代理程序。

此产品线不提供托管备份

每晚备份附加服务属于我们的其他一些产品线,而此产品线底层是另一个平台。请自行将备份移出机器,使用 restic、borg 或 rsync 备份到您掌控的存储,因为这里没有每晚备份附加服务可购买。

没有基准测试,因为我们的结果不代表您的

吞吐量取决于您的模型、批大小、精度和框架版本。我们公布显卡、VRAM 和份额;唯一值得信赖的测量是您在自己的工作负载上做的测量,而按月的期限足够短,让您可以完成测量。

订购

搭建机器前会确认库存。

这是 GPU 订单与 CPU 订单唯一不同的地方,值得在付款前而不是付款后阅读。

按订单搭建,而非一分钟开通
请预留一个工作日。订单会对照供应商在该城市该显卡的实际库存进行核实,确认后再搭建机器。
如果显卡已售出,您会最先知道
我们无法搭建的机器不会收取任何费用。我们会告诉您可以改为搭建哪些其他规格或站点,由您决定。
可用性因规格而异,而非按产品线统一
不同规格的覆盖范围不同:G8-96 在 1 个城市,G224-3840 在 1 个城市。配置器只提供所选规格有库存的站点,购物车会拒绝其他站点。
按月或按年,每台服务器由您选择
按年付费即预付十二个月,在同一费率基础上享受 10% 折扣。如果您提前销毁服务器,预付款项不予退还,因此默认按月计费。
与其他产品一样,自管理
root 权限归您,系统补丁由您负责,驱动栈也由您负责。支持团队解答有关机器和网络的问题,不涉及您的训练任务。
更大的显卡需报价,不在列表中
H100、H200 及 MI300 级别的容量每周都在变化。请发送邮件至 [email protected],注明显卡、使用时长和区域,我们会告诉您实际可订购的情况。

常见问题

每次 GPU 订购前我们都会被问到的七个问题。

包括两个会让我们丢掉生意的回答,这通常说明它们是真话。

GPU 是共享的吗?
取决于规格,每个规格都标明了是哪种。较小的规格是一块实体显卡的切片,“您获得的资源”一栏会写明份额,例如一块 A16 的 2 GB 切片,其余部分由其他租户使用。较大的规格是整块显卡,一块或多块,没有其他人共用。我们这样标注,是因为这一点决定了套餐是否适合您,而不是等到第一张发票之后才发现的细节。
我可以订购 H100 吗?
可以,前提是列表中有。本页当前的整卡规格为 G8-96(NVIDIA L40S 的 1× 整张显卡)、G24-240(NVIDIA H100 的 1× 整张显卡)、G20-160(AMD Instinct MI325X 的 1× 整张显卡)、G24-240-720(NVIDIA H200 的 1× 整张显卡)、G48-480(NVIDIA H100 的 2× 整张显卡)、G64-768(NVIDIA L40S 的 8× 整张显卡)和G224-3840(NVIDIA B300 SXM 的 8× 整张显卡)。每个规格只在供应商已确认该显卡的城市中列出,而这每周都在变化,因此以表格为准,并非承诺。如需表格中没有的显卡或区域,请发送邮件至 [email protected],注明显卡、使用时长和区域,您会得到当周可订购情况的直接回答。
为什么开通不是即时的?
因为订单另一端是一块实体显卡。CPU 实例来自一个几乎始终充足的资源池;GPU 则是稀缺资源,供应商可能今天上午刚把它卖给了别人。因此我们在搭建机器之前而不是之后对照实际库存确认显卡,请预留一个工作日。如果显卡已售出,您会在任何扣费之前得到通知,我们也会告诉您可以改为搭建哪些其他规格或站点。
你们按小时计费吗?
不按小时计费。网页订单按月或按年计费,按年在同一费率基础上享受 10% 折扣。每个价格旁标注的小时价格是月价格按每月 730 小时折算的结果,供您与计量计费的服务商比较之用,并非我们收取的费率。在 GPU 上,这一区别比在 CPU 套餐上更重要:如果您的任务每周只运行六小时,计量计费的服务商会比任何按月套餐(包括我们的)都便宜,我们宁愿在这里写明,也不愿让您日后自己算出来。
我应该从哪个规格开始?
大多数工作选 G8-96:1× 整张显卡,48 GB VRAM,每月 $2433.90。8 GB VRAM 是一道门槛:70 亿参数模型以 8 位精度运行时可以装下并留出上下文空间,SDXL 也无需争抢显存。只有当您需要一台用于开发的 CUDA 机器时,才从低于它的规格起步;当您遇到具体瓶颈时再升级:模型装不下,或因显卡共享而队列过长。这两种情况一旦出现都很明显。
机器上安装了什么?
只有一个纯 Linux 镜像,别无其他。NVIDIA 驱动、CUDA、cuDNN 以及您使用的任何框架都由您自行安装,与我们销售的其他所有服务器一样,按自管理方式提供。我们不提供预配置的机器学习镜像,与其让您凌晨两点发现驱动目录空空如也,我们宁愿在本页事先说明。
你们发布基准测试吗?
没有,我们也不打算发布。GPU 的吞吐量取决于您的模型、批大小、精度和框架版本,我们公布的任何数字都来自不属于您的工作负载。规格就是显卡、VRAM 以及您获得的显卡份额,这些是事实。您用它们能做到什么,只能在您自己的工作负载上测量,而按月的期限足够短,让您可以测量。