Naar de inhoud

Cloud VPS · GPU

Een GPU-kaart, en een eerlijke beschrijving van hoeveel ervan van u is.

7 groottes, van 1× volledige kaart voor $2433.90 per maand tot 8× volledige kaarten van NVIDIA B300 SXM met 2304 GB VRAM. Elke grootte vermeldt de kaart, het VRAM en of het een deel is of een eigen kaart, en elke grootte vermeldt alleen de steden waar die kaart echt op voorraad is.

Een GPU-server configurerenBekijk de groottes
Weergave van een grafische kaart, ventilatoren naar bovenDe hele kaart,of een deelAlleen indienop voorraad

Groottes

7 groottes, 5 kaarten, en waar elk ervan wordt gebouwd.

Delen worden geprijsd als delen en hele kaarten als hele kaarten: de kolom 'Wat u krijgt' vermeldt welke, in de eigen termen van de leverancier. De locatiekolom is geen dekking van de hele lijn: het is waar precies die grootte op voorraad is.

Begin hier

Goedkoopste instap

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

De goedkoopste in deze lijn, en $25.35 per GB per maand.

$2433.90/mnd

ConfigurerenDetails

Het midden van de lijn

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

De helft van de groottes in deze lijn kost minder en de helft kost meer, en $26.19 per GB per maand.

$6285.90/mnd

ConfigurerenDetails

Meeste RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

De grootste in deze lijn: 3840 GB, en $25.87 per GB per maand.

$99338.90/mnd

ConfigurerenDetails

Of verfijn je keuze

Schijf
Cores

7 machines op deze lijn, geprijsd vanaf hun goedkoopste stad.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Verkeer niet gemeten · Warschau

    $2433.90/mnd

    ConfigurerenDetails

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Verkeer niet gemeten · 2 steden

    $4745.90/mnd

    ConfigurerenDetails

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB dataverkeer · Toronto

    $5343.90/mnd

    ConfigurerenDetails

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB dataverkeer · 2 steden

    $6285.90/mnd

    ConfigurerenDetails

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Verkeer niet gemeten · 2 steden

    $9491.90/mnd

    ConfigurerenDetails

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Verkeer niet gemeten · Warschau

    $19469.90/mnd

    ConfigurerenDetails
Elk GPU-pakket met de kaart, VRAM, hoeveel van een fysieke kaart het is, de machine eromheen, waar het wordt gebouwd en de maandprijs
PakketKaartVRAMWat je krijgtMachineGebouwd inPer maand
G8-96NVIDIA L40S48 GB1× volledige kaart8 vCPU · 96 GB RAM · 40 GB SSD · dataverkeer niet gemeten🇵🇱 Warschau$2433.90
G24-240NVIDIA H10080 GB1× volledige kaart24 vCPU · 240 GB RAM · 40 GB SSD · dataverkeer niet gemeten🇫🇷 Parijs, 🇵🇱 Warschau$4745.90
G20-160AMD Instinct MI325X256 GB1× volledige kaart20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× volledige kaart24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× volledige kaarten48 vCPU · 480 GB RAM · 40 GB SSD · dataverkeer niet gemeten🇫🇷 Parijs, 🇵🇱 Warschau$9491.90
G64-768NVIDIA L40S384 GB8× volledige kaarten64 vCPU · 768 GB RAM · 40 GB SSD · dataverkeer niet gemeten🇵🇱 Warschau$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× volledige kaarten224 vCPU · 3840 GB RAM · 40 GB SSD · dataverkeer niet gemeten🇫🇷 Parijs$99338.90

Prijzen zijn in USD, exclusief btw, en worden verlengd tegen wat u de eerste keer betaalde. Jaarlijkse facturering geeft 10% korting op hetzelfde tarief. Er zijn geen installatiekosten en geen minimale looptijd buiten de looptijd die u kiest.

Wat je koopt

Een Linux-server met een kaart eraan, en de driverstack is uw taak.

Deze machines zijn doorverkochte voorraad van leveranciers. Dat levert u kaarten op die we anders niet zouden kunnen aanbieden, en het kost u de gemakken van ons klassieke platform. Beide kanten staan hieronder.

De kaart, vermeld als deel waar het een deel is

Waar een grootte een deel van een fysieke kaart is, staat dat erbij, “deel van 2 GB van één A16 (gedeelde kaart)”, en waar het hele kaarten zijn, staat erbij hoeveel. Het deel komt uit de eigen pakketdefinitie van de leverancier, niet van ons. Niets hier rondt een deel naar boven af tot een kaart.

Kale Linux, geen vooraf geïnstalleerde stack

U krijgt root op een van dezelfde zes Linux-images die de rest van het assortiment levert. NVIDIA-drivers, CUDA en uw framework installeert u zelf en houdt u zelf gepatcht. Er is geen machine-learning-image en geen agent van ons op de machine.

Geen beheerde back-ups op deze lijn

De add-on voor nachtelijke back-ups hoort bij enkele van onze andere lijnen, en hieronder zit een ander platform. Maak uw eigen back-ups buiten de machine, met restic, borg of rsync naar opslag die u zelf beheert, want hier is geen add-on voor nachtelijke back-ups te koop.

Geen benchmarks, want die van ons zouden niet de uwe zijn

De doorvoer hangt af van uw model, batchgrootte, precisie en frameworkversie. Wij publiceren de kaart, het VRAM en het aandeel; de enige meting die u kunt vertrouwen, is die u op uw eigen workload doet, en een maandtermijn is kort genoeg om die te doen.

Bestellen

De voorraad wordt bevestigd voordat de machine wordt gebouwd.

Dit is de enige plek waar een GPU-bestelling zich anders gedraagt dan een CPU-bestelling, dus het loont om dit te lezen voordat u betaalt in plaats van erna.

Op bestelling gebouwd, niet in een minuut
Reken op één werkdag. De bestelling wordt gecontroleerd tegen de echte voorraad van de leverancier voor die kaart in die stad, en de machine wordt gebouwd zodra dat is bevestigd.
Is de kaart weg, dan hoort u dat eerst
Voor een machine die we niet kunnen bouwen, wordt niets in rekening gebracht. We vertellen u welke andere grootte of locatie wel gebouwd kan worden, en u beslist.
Beschikbaarheid geldt per grootte, niet per lijn
De beschikbaarheid verschilt per grootte: G8-96 is in 1 stad, G224-3840 in 1. De configurator biedt alleen de locaties waar de gekozen grootte op voorraad is, en de winkelwagen weigert de rest.
Per maand of per jaar, uw keuze per server
Jaarlijks is 10% korting op hetzelfde tarief als u twaalf maanden vooruit betaalt. Vooruitbetaalde termijnen worden niet terugbetaald als u de server eerder verwijdert; daarom is per maand de standaard.
Zelf beheerd, zoals de rest van het assortiment
Root is van u, patchen doet u zelf en de driverstack is van u. Support beantwoordt vragen over de machine en het netwerk, niet over uw trainingsrun.
Grotere kaarten op offerte, niet in de lijst
Capaciteit van H100, H200 en MI300-klasse verandert van week tot week. Mail [email protected] met de kaart, de duur en de regio voor een antwoord over wat echt bestelbaar is.

Vragen

De zeven vragen die we vóór elke GPU-bestelling krijgen.

Inclusief de twee antwoorden die ons verkopen kosten, wat meestal een teken is dat ze kloppen.

Wordt de GPU gedeeld?
Dat hangt af van de grootte, en bij elke grootte staat welke het is. De kleinere groottes zijn delen van één fysieke kaart: de kolom 'Wat u krijgt' vermeldt het deel, bijvoorbeeld een deel van 2 GB van één A16 met andere klanten op de rest. De grotere groottes zijn hele kaarten, één of meerdere, zonder iemand anders erop. We vermelden het zo omdat dit het feit is dat bepaalt of een pakket bij u past, niet een detail dat u pas na de eerste factuur ontdekt.
Kan ik een H100 krijgen?
Ja, waar het vermeld staat. De groottes met hele kaarten op deze pagina zijn op dit moment G8-96 (1× volledige kaart van NVIDIA L40S), G24-240 (1× volledige kaart van NVIDIA H100), G20-160 (1× volledige kaart van AMD Instinct MI325X), G24-240-720 (1× volledige kaart van NVIDIA H200), G48-480 (2× volledige kaarten van NVIDIA H100), G64-768 (8× volledige kaarten van NVIDIA L40S) en G224-3840 (8× volledige kaarten van NVIDIA B300 SXM). Elk ervan staat alleen vermeld in de steden waar de leverancier de kaart heeft bevestigd, en dat verandert per week, dus de tabel is het antwoord, geen belofte. Voor een kaart of regio die er niet in staat, schrijft u naar [email protected] met de kaart, de looptijd en de regio, en u krijgt een direct antwoord over wat die week bestelbaar is.
Waarom is het inrichten niet direct?
Omdat er aan de andere kant van de bestelling een fysieke kaart is. Een CPU-instance komt uit een pool die in de praktijk altijd beschikbaar is; een GPU is schaars en onze leverancier kan hem vanochtend aan iemand anders hebben verkocht. Daarom bevestigen we de kaart tegen de echte voorraad voordat de machine wordt gebouwd, niet erna: reken op één werkdag. Is de kaart weg, dan hoort u dat voordat er iets in rekening wordt gebracht, en vertellen we welke andere groottes of locaties wel gebouwd kunnen worden.
Rekenen jullie per uur af?
Nee. Webbestellingen zijn per maand of per jaar, en per jaar geeft 10% korting op hetzelfde tarief. Het uurbedrag naast elke prijs is de maandprijs verdeeld over een maand van 730 uur: het getal dat u nodig hebt om ons te vergelijken met een aanbieder die per gebruik afrekent, geen tarief dat wij in rekening brengen. Bij GPU's is dit onderscheid belangrijker dan bij CPU-pakketten: als uw taak zes uur per week draait, kost een aanbieder die per gebruik afrekent u minder dan elk maandpakket, ook het onze, en dat schrijven we liever hier dan dat u het later zelf uitrekent.
Met welke grootte moet ik beginnen?
G8-96 voor het meeste werk: 1× volledige kaart met 48 GB VRAM voor $2433.90 per maand. Acht gigabyte VRAM is de grens waarbij een model met 7 miljard parameters in 8-bit past met ruimte voor context en waarbij SDXL draait zonder om geheugen te vechten. Begin alleen daaronder als u een CUDA-machine wilt om tegen te ontwikkelen; ga erboven zodra u tegen een concrete muur loopt: een model dat niet past, of een wachtrij die lang is omdat de kaart gedeeld wordt. Beide merkt u meteen wanneer het gebeurt.
Wat is er op de machine geïnstalleerd?
Een kaal Linux-image en verder niets. NVIDIA-drivers, CUDA, cuDNN en welk framework u ook gebruikt installeert u zelf, op dezelfde zelfbeheerde voorwaarden als elke andere server die we verkopen. We leveren geen voorgeconfigureerd machine-learning-image, en we zeggen dat liever op deze pagina dan dat u om 2 uur 's nachts een lege drivermap aantreft.
Publiceren jullie benchmarks?
Nee, en dat zijn we ook niet van plan. De doorvoer op een GPU hangt af van uw model, batchgrootte, precisie en frameworkversie, dus elk getal dat wij publiceren zou komen van een workload die niet de uwe is. De specificaties zijn de kaart, het VRAM en hoeveel van de kaart u krijgt; dat zijn feiten. Wat u ermee doet, is alleen te meten op uw eigen workload, en de maandtermijn is kort genoeg om dat te meten.

Verder lezen

Waar u vanaf hier heen kunt.

Niet zeker of een GPU het antwoord is

Twee goedkopere plekken om eerst te kijken.