Pular para o conteúdo

Cloud VPS · GPU

Uma placa de GPU e uma descrição honesta de quanto dela é seu.

7 tamanhos, de 1× placa inteira por $2433.90 ao mês até 8× placas inteiras de NVIDIA B300 SXM com 2304 GB de VRAM. Cada tamanho mostra a sua placa, a sua VRAM e se é uma fração ou uma placa própria, e cada tamanho lista apenas as cidades onde essa placa está realmente em estoque.

Configurar um servidor com GPUVer os tamanhos
Renderização de uma placa de vídeo, com as ventoinhas para cimaA placa inteira,ou uma fraçãoSó onde houver estoque

Tamanhos

7 tamanhos, 5 placas e onde cada um é provisionado.

Frações têm preço de fração e placas inteiras, de placas inteiras: a coluna 'O que você recebe' indica qual, nos termos do próprio fornecedor. A coluna de local não é a cobertura da linha inteira: é onde aquele tamanho exato tem estoque.

Comece aqui

A forma mais barata de começar

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

O mais barato desta linha, e $25.35 por GB ao mês.

$2433.90/mês

ConfigurarDetalhes

O meio da linha

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Metade dos tamanhos desta linha custa menos e metade custa mais, e $26.19 por GB ao mês.

$6285.90/mês

ConfigurarDetalhes

Mais RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

O maior desta linha: 3840 GB, e $25.87 por GB ao mês.

$99338.90/mês

ConfigurarDetalhes

Ou refine a busca

Disco
Núcleos

7 máquinas nesta linha, com preço a partir da cidade mais barata de cada uma.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Tráfego não contabilizado · Varsóvia

    $2433.90/mês

    ConfigurarDetalhes

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Tráfego não contabilizado · 2 cidades

    $4745.90/mês

    ConfigurarDetalhes

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB de transferência · Toronto

    $5343.90/mês

    ConfigurarDetalhes

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB de transferência · 2 cidades

    $6285.90/mês

    ConfigurarDetalhes

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Tráfego não contabilizado · 2 cidades

    $9491.90/mês

    ConfigurarDetalhes

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Tráfego não contabilizado · Varsóvia

    $19469.90/mês

    ConfigurarDetalhes
Todos os planos com GPU, com placa, VRAM, quanto de uma placa física corresponde, a máquina ao redor, onde é provisionado e o preço mensal
PlanoCartãoVRAMO que você recebeMáquinaProvisionamento emMensal
G8-96NVIDIA L40S48 GB1× placa inteira8 vCPU · 96 GB RAM · 40 GB SSD · tráfego não medido🇵🇱 Varsóvia$2433.90
G24-240NVIDIA H10080 GB1× placa inteira24 vCPU · 240 GB RAM · 40 GB SSD · tráfego não medido🇫🇷 Paris, 🇵🇱 Varsóvia$4745.90
G20-160AMD Instinct MI325X256 GB1× placa inteira20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× placa inteira24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 Nova York$6285.90
G48-480NVIDIA H100160 GB2× placas inteiras48 vCPU · 480 GB RAM · 40 GB SSD · tráfego não medido🇫🇷 Paris, 🇵🇱 Varsóvia$9491.90
G64-768NVIDIA L40S384 GB8× placas inteiras64 vCPU · 768 GB RAM · 40 GB SSD · tráfego não medido🇵🇱 Varsóvia$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× placas inteiras224 vCPU · 3840 GB RAM · 40 GB SSD · tráfego não medido🇫🇷 Paris$99338.90

Os preços estão em USD, não incluem impostos e são renovados pelo valor pago inicialmente. A cobrança anual tem 10% de desconto sobre o mesmo valor. Não há taxa de setup nem prazo mínimo além do que você escolher.

O que você está comprando

Um servidor Linux com uma placa conectada, e a pilha de drivers fica por sua conta.

Estas máquinas são estoque revendido de fornecedores. Isso lhe dá placas que de outra forma não poderíamos oferecer, e custa as conveniências da nossa plataforma clássica. As duas metades estão abaixo.

A placa, indicada como fração quando for uma

Quando um tamanho é uma fração de uma placa física, isso é indicado (“fração de 2 GB de uma A16 (placa compartilhada)”), e quando são placas inteiras, indica-se quantas. A fração vem da definição de plano do próprio fornecedor, não de nós. Nada aqui arredonda uma fração para uma placa.

Linux simples, sem pilha pré-instalada

Você recebe root em uma das mesmas seis imagens Linux que o resto do catálogo oferece. Drivers NVIDIA, CUDA e seu framework ficam por sua conta para instalar e manter atualizados. Não há imagem para machine learning nem agente nosso na máquina.

Sem backups gerenciados nesta linha

O complemento de backup noturno pertence a algumas de nossas outras linhas, e esta é uma plataforma diferente por baixo. Faça seus próprios backups fora da máquina (restic, borg ou rsync para um armazenamento que você controla), porque aqui não há complemento de backup noturno para contratar.

Sem benchmarks, porque os nossos não seriam os seus

O desempenho depende do seu modelo, tamanho de lote, precisão e versão do framework. Publicamos a placa, a VRAM e a fração; a única medição confiável é a que você faz na sua própria carga de trabalho, e um período mensal é curto o suficiente para fazê-la.

Contratação

O estoque é confirmado antes de a máquina ser provisionada.

Este é o único ponto em que um pedido de GPU se comporta de forma diferente de um de CPU, por isso vale a pena ler antes de pagar, não depois.

Provisionado sob encomenda, não em um minuto
Considere um dia útil. O pedido é verificado no estoque real do fornecedor para aquela placa naquela cidade, e a máquina é provisionada assim que confirmado.
Se a placa tiver acabado, você é avisado primeiro
Nada é cobrado por uma máquina que não conseguimos provisionar. Informamos qual outro tamanho ou local pode ser provisionado no lugar, e você decide.
A disponibilidade é por tamanho, não por linha
A cobertura varia por tamanho: G8-96 está em 1 cidade, G224-3840 em 1. O configurador só oferece os locais em que o tamanho escolhido tem estoque, e o carrinho recusa os demais.
Mensal ou anual, à sua escolha por servidor
O plano anual tem 10% de desconto sobre o mesmo valor, com pagamento de doze meses adiantado. Períodos pré-pagos não são reembolsados se você destruir o servidor antes, e por isso o mensal é o padrão.
Autogerenciado, como o resto do catálogo
O root é seu, as atualizações são suas e a pilha de drivers é sua. O suporte responde a perguntas sobre a máquina e a rede, não sobre o seu treinamento.
Placas maiores são orçadas, não listadas
A capacidade das classes H100, H200 e MI300 muda de semana para semana. Envie um e-mail para [email protected] com a placa, a duração e a região para saber o que está realmente disponível para contratação.

Perguntas

As sete perguntas que recebemos antes de cada pedido de GPU.

Incluindo as duas respostas que nos fazem perder vendas, o que geralmente é sinal de que são as verdadeiras.

A GPU é compartilhada?
Depende do tamanho, e cada tamanho informa qual é o caso. Os tamanhos menores são frações de uma placa física: a coluna 'O que você recebe' mostra a fração, por exemplo uma fração de 2 GB de uma A16 com outros clientes no restante. Os tamanhos maiores são placas inteiras, uma ou várias, sem mais ninguém nelas. Rotulamos assim porque é esse o fato que decide se um plano serve para você, não um detalhe a descobrir após a primeira fatura.
Posso obter uma H100?
Sim, onde estiver listada. Os tamanhos com placa inteira nesta página no momento são G8-96 (1× placa inteira de NVIDIA L40S), G24-240 (1× placa inteira de NVIDIA H100), G20-160 (1× placa inteira de AMD Instinct MI325X), G24-240-720 (1× placa inteira de NVIDIA H200), G48-480 (2× placas inteiras de NVIDIA H100), G64-768 (8× placas inteiras de NVIDIA L40S) e G224-3840 (8× placas inteiras de NVIDIA B300 SXM). Cada um é listado apenas nas cidades em que o fornecedor confirmou a placa, e isso muda de semana para semana; portanto, a tabela é a resposta, não uma promessa. Para uma placa ou região que não esteja nela, escreva para [email protected] com a placa, a duração e a região, e você recebe uma resposta direta sobre o que está disponível para contratação naquela semana.
Por que o provisionamento não é instantâneo?
Porque há uma placa física do outro lado do pedido. Uma instância de CPU vem de um pool que está praticamente sempre disponível; uma GPU é um item escasso que nosso fornecedor pode ter vendido a outra pessoa hoje de manhã. Por isso confirmamos a placa no estoque real antes de provisionar a máquina, não depois: considere um dia útil. Se a placa tiver acabado, você é avisado antes de qualquer cobrança, e indicamos quais outros tamanhos ou locais podem ser provisionados no lugar.
Vocês cobram por hora?
Não. Pedidos pelo site são mensais ou anuais, e o anual tem 10% de desconto sobre o mesmo valor. O valor por hora exibido ao lado de cada preço é o preço mensal dividido por um mês de 730 horas: o número de que você precisa para nos comparar com um provedor com cobrança por uso, não uma tarifa que cobramos. Em GPUs a distinção importa mais do que nos planos de CPU: se seu trabalho roda seis horas por semana, um provedor com cobrança por uso custará menos que qualquer plano mensal, incluindo o nosso, e preferimos escrever isso aqui a você descobrir depois.
Com qual tamanho devo começar?
G8-96 para a maioria dos trabalhos: 1× placa inteira com 48 GB de VRAM por $2433.90 ao mês. Oito gigabytes de VRAM é o limite em que um modelo de 7 bilhões de parâmetros em 8 bits cabe com espaço para contexto e em que o SDXL roda sem disputar memória. Comece abaixo disso apenas se quiser uma máquina CUDA para desenvolver; suba quando encontrar um obstáculo concreto: um modelo que não cabe, ou uma fila longa porque a placa é compartilhada. Ambos ficam evidentes quando acontecem.
O que vem instalado na máquina?
Uma imagem Linux simples e nada mais. Drivers NVIDIA, CUDA, cuDNN e o framework que você usa ficam por sua conta, nos mesmos termos autogerenciados de todos os outros servidores que vendemos. Não fornecemos uma imagem pré-configurada para machine learning, e preferimos dizer isso nesta página a você encontrar um diretório de drivers vazio às 2 da manhã.
Vocês publicam benchmarks?
Não, e não pretendemos. O desempenho de uma GPU depende do seu modelo, tamanho de lote, precisão e versão do framework, então qualquer número que publicássemos viria de uma carga de trabalho que não é a sua. As especificações são a placa, a VRAM e quanto da placa você recebe; isso são fatos. O que você faz com eles só pode ser medido na sua própria carga de trabalho, e o período mensal é curto o suficiente para medi-lo.

Continue lendo

Para onde ir a partir daqui.

Não tem certeza de que uma GPU é a solução

Dois lugares mais baratos para olhar primeiro.