Vai al contenuto

Cloud VPS · GPU

Una scheda GPU e una descrizione onesta di quanta parte è vostra.

7 dimensioni, da 1× scheda intera a $2433.90 al mese fino a 8× schede intere di NVIDIA B300 SXM con 2304 GB di VRAM. Ogni dimensione indica la scheda, la VRAM e se si tratta di una porzione o di una scheda dedicata, ed elenca solo le città in cui quella scheda è effettivamente disponibile.

Configura un server GPUVedi le dimensioni
Rendering di una scheda grafica, con le ventole rivolte verso l'altoLa scheda, ouna porzioneSolo dove disponibile

Dimensioni

7 dimensioni, 5 schede e dove viene allestita ciascuna.

Le porzioni hanno prezzi da porzioni e le schede intere da schede intere: la colonna 'Cosa ottenete' indica quale, nei termini del fornitore stesso. La colonna dei siti non è la copertura dell'intera linea: indica dove quella specifica dimensione è disponibile.

Inizia da qui

Il modo più economico per iniziare

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

La meno costosa di questa linea, e $25.35 per GB al mese.

$2433.90/mese

ConfiguraDettagli

La via di mezzo della linea

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Metà delle dimensioni di questa linea costano meno e metà di più, e $26.19 per GB al mese.

$6285.90/mese

ConfiguraDettagli

Più RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

La più grande di questa linea: 3840 GB, e $25.87 per GB al mese.

$99338.90/mese

ConfiguraDettagli

Oppure restringi la scelta

Disco
Core

7 macchine su questa linea, con il prezzo della città più economica.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Traffico non conteggiato · Varsavia

    $2433.90/mese

    ConfiguraDettagli

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Traffico non conteggiato · 2 città

    $4745.90/mese

    ConfiguraDettagli

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB di traffico · Toronto

    $5343.90/mese

    ConfiguraDettagli

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB di traffico · 2 città

    $6285.90/mese

    ConfiguraDettagli

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Traffico non conteggiato · 2 città

    $9491.90/mese

    ConfiguraDettagli

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Traffico non conteggiato · Varsavia

    $19469.90/mese

    ConfiguraDettagli
Ogni piano GPU con la sua scheda, la VRAM, quanta parte di una scheda fisica rappresenta, la macchina che la ospita, dove viene allestito e il prezzo mensile
PianoSchedaVRAMCosa ottieniMacchinaAllestito inMensile
G8-96NVIDIA L40S48 GB1× scheda intera8 vCPU · 96 GB RAM · 40 GB SSD · traffico non conteggiato🇵🇱 Varsavia$2433.90
G24-240NVIDIA H10080 GB1× scheda intera24 vCPU · 240 GB RAM · 40 GB SSD · traffico non conteggiato🇫🇷 Parigi, 🇵🇱 Varsavia$4745.90
G20-160AMD Instinct MI325X256 GB1× scheda intera20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× scheda intera24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× schede intere48 vCPU · 480 GB RAM · 40 GB SSD · traffico non conteggiato🇫🇷 Parigi, 🇵🇱 Varsavia$9491.90
G64-768NVIDIA L40S384 GB8× schede intere64 vCPU · 768 GB RAM · 40 GB SSD · traffico non conteggiato🇵🇱 Varsavia$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× schede intere224 vCPU · 3840 GB RAM · 40 GB SSD · traffico non conteggiato🇫🇷 Parigi$99338.90

I prezzi sono in USD, IVA esclusa, e si rinnovano al prezzo pagato inizialmente. La fatturazione annuale applica uno sconto del 10% sulla stessa tariffa. Non ci sono costi di attivazione né durata minima oltre a quella che scegliete.

Cosa stai acquistando

Un server Linux con una scheda collegata, e lo stack dei driver è compito vostro.

Queste macchine sono scorte di fornitori rivendute. Questo vi dà accesso a schede che altrimenti non potremmo offrire, ma vi fa rinunciare alle comodità della nostra piattaforma classica. Entrambi gli aspetti sono illustrati qui sotto.

La scheda, indicata come frazione quando lo è

Quando una dimensione è una frazione di una scheda fisica, lo indica (“porzione da 2 GB di una A16 (scheda condivisa)”), e quando si tratta di schede intere, indica quante. La frazione deriva dalla definizione del piano del fornitore stesso, non da noi. Nulla qui arrotonda una porzione a una scheda intera.

Linux semplice, nessuno stack preinstallato

Ottenete l'accesso root su una delle stesse sei immagini Linux fornite nel resto del catalogo. L'installazione dei driver NVIDIA, di CUDA e del vostro framework spetta a voi, così come il loro aggiornamento. Non esiste un'immagine per il machine learning e sulla macchina non c'è alcun nostro agent.

Nessun backup gestito su questa linea

Il componente aggiuntivo di backup notturno appartiene ad alcune nostre altre linee, e qui la piattaforma sottostante è diversa. Fate i vostri backup fuori dalla macchina (restic, borg o rsync verso uno storage che controllate), perché qui non c'è un backup notturno da acquistare.

Nessun benchmark, perché i nostri non sarebbero i vostri

Le prestazioni dipendono dal vostro modello, dalla dimensione del batch, dalla precisione e dalla versione del framework. Pubblichiamo la scheda, la VRAM e la quota; l'unica misurazione affidabile è quella che fate sul vostro carico di lavoro, e un periodo mensile è abbastanza breve per farla.

Ordine

La disponibilità viene confermata prima che la macchina sia allestita.

È l'unico caso in cui un ordine GPU si comporta diversamente da uno CPU, quindi vale la pena leggerlo prima di pagare, non dopo.

Allestito su ordinazione, non in un minuto
Prevedete un giorno lavorativo. L'ordine viene verificato rispetto alle reali scorte del fornitore per quella scheda in quella città, e la macchina viene allestita una volta confermato.
Se la scheda non c'è più, lo sapete per primi
Non addebitiamo nulla per una macchina che non possiamo allestire. Vi indichiamo quale altra dimensione o sito può essere allestito al suo posto, e decidete voi.
La disponibilità è per dimensione, non per linea
La copertura varia per dimensione: G8-96 è disponibile in 1 città, G224-3840 in 1. Il configuratore propone solo i siti in cui la dimensione scelta è disponibile, e il carrello rifiuta gli altri.
Mensile o annuale, a vostra scelta per ogni server
L'annuale applica uno sconto del 10% sulla stessa tariffa pagando dodici mesi in anticipo. I periodi prepagati non vengono rimborsati se eliminate il server prima, ed è per questo che il mensile è la scelta predefinita.
Autogestito, come il resto del catalogo
L'accesso root è vostro, gli aggiornamenti sono vostri e lo stack dei driver è vostro. Il supporto risponde a domande sulla macchina e sulla rete, non sul vostro addestramento.
Le schede più grandi sono su preventivo, non a listino
La capacità di classe H100, H200 e MI300 cambia di settimana in settimana. Scrivete a [email protected] indicando la scheda, la durata e la regione per sapere cosa è effettivamente ordinabile.

Domande

Le sette domande che ci vengono poste prima di ogni ordine GPU.

Comprese le due risposte che ci fanno perdere vendite, il che di solito è segno che sono quelle vere.

La GPU è condivisa?
Dipende dalla dimensione, e ogni dimensione lo indica. Le dimensioni più piccole sono porzioni di una singola scheda fisica: la colonna 'Cosa ottenete' riporta la frazione, ad esempio una porzione da 2 GB di una A16 con altri clienti sul resto. Le dimensioni più grandi sono schede intere, una o più, senza nessun altro. Lo indichiamo così perché è il fatto che decide se un piano fa per voi, non un dettaglio da scoprire dopo la prima fattura.
Posso avere una H100?
Sì, dove è elencata. Le dimensioni con scheda intera presenti al momento in questa pagina sono G8-96 (1× scheda intera di NVIDIA L40S), G24-240 (1× scheda intera di NVIDIA H100), G20-160 (1× scheda intera di AMD Instinct MI325X), G24-240-720 (1× scheda intera di NVIDIA H200), G48-480 (2× schede intere di NVIDIA H100), G64-768 (8× schede intere di NVIDIA L40S) e G224-3840 (8× schede intere di NVIDIA B300 SXM). Ciascuna è elencata solo nelle città in cui il fornitore ha confermato la scheda, e questo cambia di settimana in settimana: la tabella è quindi la risposta, non una promessa. Per una scheda o una regione che non compare, scrivete a [email protected] indicando la scheda, la durata e la regione, e riceverete una risposta diretta su ciò che è ordinabile quella settimana.
Perché l'attivazione non è immediata?
Perché dall'altra parte dell'ordine c'è una scheda fisica. Un'istanza CPU proviene da un pool praticamente sempre disponibile; una GPU è un bene scarso che il nostro fornitore potrebbe aver venduto a qualcun altro stamattina. Per questo confermiamo la scheda rispetto alle scorte reali prima di allestire la macchina, non dopo: prevedete un giorno lavorativo. Se la scheda non c'è più, ve lo comunichiamo prima di qualsiasi addebito e vi indichiamo quali altre dimensioni o siti possono essere allestiti al suo posto.
Fatturate a ore?
No. Gli ordini online sono mensili o annuali, e l'annuale applica uno sconto del 10% sulla stessa tariffa. Il valore orario riportato accanto a ogni prezzo è il prezzo mensile diviso su un mese di 730 ore: il numero che vi serve per confrontarci con un provider a consumo, non una tariffa che applichiamo. Sulle GPU la distinzione conta più che sui piani CPU: se il vostro job gira sei ore a settimana, un provider a consumo vi costerà meno di qualsiasi piano mensile, compreso il nostro, e preferiamo scriverlo qui piuttosto che lasciarvelo scoprire dopo.
Da quale dimensione dovrei iniziare?
G8-96 per la maggior parte dei lavori: 1× scheda intera con 48 GB di VRAM a $2433.90 al mese. Otto gigabyte di VRAM sono la soglia in cui un modello da 7 miliardi di parametri a 8 bit ci sta con spazio per il contesto e in cui SDXL gira senza contendersi la memoria. Partite al di sotto solo se vi serve una macchina CUDA su cui sviluppare; salite oltre quando incontrate un limite preciso: un modello che non ci sta, o una coda lunga perché la scheda è condivisa. Entrambi i casi sono evidenti quando si presentano.
Cosa è installato sulla macchina?
Un'immagine Linux semplice e nient'altro. Driver NVIDIA, CUDA, cuDNN e qualsiasi framework usiate sono da installare a cura vostra, alle stesse condizioni autogestite di ogni altro server che vendiamo. Non forniamo un'immagine preconfigurata per il machine learning, e preferiamo dirlo su questa pagina piuttosto che farvi trovare una directory dei driver vuota alle 2 di notte.
Pubblicate benchmark?
No, e non intendiamo farlo. Le prestazioni di una GPU dipendono dal vostro modello, dalla dimensione del batch, dalla precisione e dalla versione del framework, quindi qualsiasi valore pubblicassimo verrebbe da un carico di lavoro diverso dal vostro. Le specifiche sono la scheda, la VRAM e quanta parte della scheda ottenete: questi sono fatti. Cosa ne fate è misurabile solo sul vostro carico di lavoro, e il periodo mensile è abbastanza breve per misurarlo.

Continua a leggere

Dove andare da qui.

Non siete sicuri che una GPU sia la risposta

Due opzioni più economiche da valutare prima.