Spring til indhold

Cloud VPS · GPU

Et GPU-kort og en ærlig beskrivelse af, hvor meget af det der er dit.

7 størrelser, fra 1× helt kort til $2433.90 om måneden til 8× hele kort af NVIDIA B300 SXM med 2304 GB VRAM. Hver størrelse viser sit kort, sin VRAM og om det er en andel eller et helt kort for sig selv, og hver størrelse angiver kun de byer, hvor kortet faktisk er på lager.

Konfigurer en GPU-serverSe størrelserne
Gengivelse af et grafikkort med blæserne opadHele kortet eller en delKun hvor der er på lager

Størrelser

7 størrelser, 5 kort, og hvor hver af dem klargøres.

Andele prissættes som andele og hele kort som hele kort; kolonnen "Det får du" angiver hvilket, med leverandørens egne betegnelser. Lokationskolonnen er ikke en udbredelse for hele linjen: den viser, hvor netop den størrelse er på lager.

Start her

Billigste vej ind

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Den billigste i denne linje, og $25.35 pr. GB om måneden.

$2433.90/md.

KonfigurerDetaljer

Midten af linjen

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Halvdelen af størrelserne i denne linje koster mindre og halvdelen mere, og $26.19 pr. GB om måneden.

$6285.90/md.

KonfigurerDetaljer

Mest RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Den største i denne linje: 3840 GB, og $25.87 pr. GB om måneden.

$99338.90/md.

KonfigurerDetaljer

Eller indsnævr det

Disk
Kerner

7 maskiner på denne linje, prissat fra den billigste by.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Trafik tælles ikke · Warszawa

    $2433.90/md.

    KonfigurerDetaljer

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Trafik tælles ikke · 2 byer

    $4745.90/md.

    KonfigurerDetaljer

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB trafik · Toronto

    $5343.90/md.

    KonfigurerDetaljer

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB trafik · 2 byer

    $6285.90/md.

    KonfigurerDetaljer

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Trafik tælles ikke · 2 byer

    $9491.90/md.

    KonfigurerDetaljer

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Trafik tælles ikke · Warszawa

    $19469.90/md.

    KonfigurerDetaljer
Alle GPU-planer med kort, VRAM, hvor stor en del af et fysisk kort det er, maskinen omkring det, hvor det bygges, og den månedlige pris
PlanKortVRAMHvad du fårMaskineBygges iPr. måned
G8-96NVIDIA L40S48 GB1× helt kort8 vCPU · 96 GB RAM · 40 GB SSD · unmetered trafik🇵🇱 Warszawa$2433.90
G24-240NVIDIA H10080 GB1× helt kort24 vCPU · 240 GB RAM · 40 GB SSD · unmetered trafik🇫🇷 Paris, 🇵🇱 Warszawa$4745.90
G20-160AMD Instinct MI325X256 GB1× helt kort20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× helt kort24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× hele kort48 vCPU · 480 GB RAM · 40 GB SSD · unmetered trafik🇫🇷 Paris, 🇵🇱 Warszawa$9491.90
G64-768NVIDIA L40S384 GB8× hele kort64 vCPU · 768 GB RAM · 40 GB SSD · unmetered trafik🇵🇱 Warszawa$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× hele kort224 vCPU · 3840 GB RAM · 40 GB SSD · unmetered trafik🇫🇷 Paris$99338.90

Priserne er i USD, ekskl. moms, og fornyes til det, du betalte første gang. Årlig fakturering giver 10% rabat på samme sats. Der er intet oprettelsesgebyr og ingen bindingsperiode ud over den, du selv vælger.

Hvad du køber

En Linux-server med et kort tilkoblet, og driverstakken er din opgave.

Disse maskiner er videresolgt leverandørlager. Det giver dig kort, vi ellers ikke kunne tilbyde, og det koster dig bekvemmelighederne fra vores klassiske platform. Begge sider står nedenfor.

Kortet, angivet som en andel, hvor det er en andel

Hvor en størrelse er en andel af et fysisk kort, står det der ("andel på 2 GB af ét A16 (delt kort)"), og hvor det er hele kort, står der hvor mange. Andelen kommer fra leverandørens egen plandefinition, ikke fra os. Intet her runder en andel op til et helt kort.

Rent Linux, ingen forudinstalleret stak

Du får root på et af de samme seks Linux-images, som resten af kataloget leveres med. NVIDIA-drivere, CUDA og dit framework installerer og opdaterer du selv. Der er intet machine learning-image og ingen agent fra os på maskinen.

Ingen administrerede backups på denne linje

Tilkøbet med natlig backup hører til nogle af vores andre linjer, og dette er en anden platform nedenunder. Tag selv backups væk fra maskinen (restic, borg eller rsync til lager, du selv styrer), for der er intet tilkøb med natlig backup her.

Ingen benchmarks, for vores ville ikke være dine

Ydelsen afhænger af din model, batchstørrelse, præcision og framework-version. Vi oplyser kortet, VRAM og andelen; den eneste måling, der er værd at stole på, er den, du selv foretager på din egen arbejdsbyrde, og en månedlig periode er kort nok til at foretage den.

Bestilling

Lageret bekræftes, før maskinen bygges.

Det er det ene sted, hvor en GPU-ordre opfører sig anderledes end en CPU-ordre, så det er værd at læse, før du betaler, ikke bagefter.

Bygges efter ordre, ikke på et minut
Regn med én hverdag. Ordren kontrolleres mod leverandørens faktiske lager af det kort i den by, og maskinen bygges, når det er bekræftet.
Hvis kortet er væk, hører du det først
Der opkræves intet for en maskine, vi ikke kan bygge. Vi fortæller dig, hvilken anden størrelse eller lokation der kan bygges i stedet, og du bestemmer.
Tilgængelighed gælder pr. størrelse, ikke pr. linje
Udbredelsen varierer efter størrelse: G8-96 findes i 1 by, G224-3840 i 1. Konfiguratoren tilbyder kun de lokationer, hvor den valgte størrelse er på lager, og kurven afviser resten.
Månedligt eller årligt, du vælger pr. server
Årligt giver 10% rabat på samme sats, når du betaler tolv måneder forud. Forudbetalte perioder refunderes ikke, hvis du sletter serveren før tid, og derfor er månedlig betaling standard.
Selvadministreret, ligesom resten af kataloget
Root er dit, opdateringer er dit ansvar, og driverstakken er dit ansvar. Support besvarer spørgsmål om maskinen og netværket, ikke om din træningskørsel.
Større kort gives der tilbud på, de står ikke på listen
Kapacitet i H100-, H200- og MI300-klassen ændrer sig fra uge til uge. Skriv til [email protected] med kort, varighed og region, og få svar på, hvad der reelt kan bestilles.

Spørgsmål

De syv spørgsmål, vi får før hver GPU-ordre.

Inklusive de to svar, der koster os salg, hvilket som regel er et tegn på, at de er de sande.

Er GPU'en delt?
Det afhænger af størrelsen, og hver størrelse oplyser, hvad den er. De mindre størrelser er andele af ét fysisk kort; kolonnen "Det får du" viser andelen, for eksempel en andel på 2 GB af ét A16 med andre lejere på resten. De større størrelser er hele kort, ét eller flere, uden andre på dem. Vi angiver det sådan, fordi det er den oplysning, der afgør, om en plan passer til dig, ikke en detalje, du skal opdage efter den første faktura.
Kan jeg få en H100?
Ja, hvor den er angivet. De størrelser med hele kort, der findes på denne side lige nu, er G8-96 (1× helt kort af NVIDIA L40S), G24-240 (1× helt kort af NVIDIA H100), G20-160 (1× helt kort af AMD Instinct MI325X), G24-240-720 (1× helt kort af NVIDIA H200), G48-480 (2× hele kort af NVIDIA H100), G64-768 (8× hele kort af NVIDIA L40S) og G224-3840 (8× hele kort af NVIDIA B300 SXM). Hver af dem er kun angivet i de byer, hvor leverandøren har bekræftet kortet, og det ændrer sig fra uge til uge, så tabellen er svaret, ikke et løfte. Ønsker du et kort eller en region, der ikke står der, så skriv til [email protected] med kortet, varigheden og regionen, og du får et direkte svar om, hvad der kan bestilles den uge.
Hvorfor sker klargøringen ikke med det samme?
Fordi der er et fysisk kort i den anden ende af ordren. En CPU-instans kommer fra en pulje, der reelt altid er der; en GPU er en knap vare, som vores leverandør måske har solgt til en anden i morges. Derfor bekræfter vi kortet mod det faktiske lager, før maskinen bygges, ikke bagefter. Regn med én hverdag. Hvis kortet er væk, får du besked, før noget bliver opkrævet, og vi fortæller, hvilke andre størrelser eller lokationer der kan bygges i stedet.
Fakturerer I pr. time?
Nej. Webordrer er månedlige eller årlige, og årligt giver 10% rabat på samme sats. Timetallet ved siden af hver pris er månedsprisen fordelt over en måned på 730 timer: det tal, du skal bruge, når du sammenligner os med en udbyder, der måler forbrug, ikke en sats, vi opkræver. På GPU'er betyder forskellen mere end på CPU-planer: hvis dit job kører seks timer om ugen, vil en udbyder med forbrugsafregning koste dig mindre end nogen månedlig plan, vores inklusive, og det vil vi hellere skrive her, end at du selv regner det ud senere.
Hvilken størrelse skal jeg starte med?
G8-96 til det meste arbejde: 1× helt kort med 48 GB VRAM til $2433.90 om måneden. Otte gigabyte VRAM er grænsen, hvor en model med 7 milliarder parametre i 8-bit kan være der med plads til kontekst, og hvor SDXL kører uden at kæmpe om hukommelsen. Start kun under den, hvis du vil have en CUDA-maskine at udvikle op imod; gå op over den, når du rammer en konkret mur: en model, der ikke kan være der, eller en lang kø, fordi kortet er delt. Begge dele er tydelige, når de sker.
Hvad er installeret på maskinen?
Et rent Linux-image og intet andet. NVIDIA-drivere, CUDA, cuDNN og det framework, du bruger, skal du selv installere, på samme selvadministrerede vilkår som alle andre servere, vi sælger. Vi leverer ikke et forudkonfigureret machine learning-image, og vi vil hellere skrive det på denne side, end at du finder en tom drivermappe klokken 2 om natten.
Offentliggør I benchmarks?
Nej, og det har vi ikke tænkt os. Ydelsen på en GPU afhænger af din model, batchstørrelse, præcision og framework-version, så ethvert tal, vi offentliggjorde, ville stamme fra en arbejdsbyrde, der ikke er din. Specifikationen er kortet, VRAM og hvor stor en del af kortet du får; det er fakta. Hvad du får ud af dem, kan kun måles på din egen arbejdsbyrde, og den månedlige periode er kort nok til at måle det.

Læs videre

Hvor du går videre herfra.

Ikke sikker på, at en GPU er svaret

To billigere steder at kigge først.