Přeskočit na obsah

Cloud VPS · GPU

GPU karta a poctivý popis toho, jak velká její část patří vám.

7 velikostí, od 1× celá karta za $2433.90 měsíčně po 8× celé karty karty NVIDIA B300 SXM s 2304 GB VRAM. U každé velikosti je uvedena karta, VRAM a to, zda jde o podíl, nebo o samostatnou kartu. U každé velikosti jsou také uvedena jen města, kde je daná karta skutečně skladem.

Konfigurovat GPU serverZobrazit velikosti
Vizualizace grafické karty, ventilátory nahoruCelá karta,nebo její částJen tam, kde je skladem

Velikosti

7 velikostí, 5 karet a kde se která zřizuje.

Podíly jsou oceněny jako podíly a celé karty jako celé karty; sloupec „Co dostanete“ uvádí, o co jde, vlastními slovy dodavatele. Sloupec lokality neukazuje dostupnost celé řady, ale místa, kde má zásoby právě daná velikost.

Začněte zde

Nejlevnější vstup

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Nejlevnější v této řadě, a $25.35 za GB měsíčně.

$2433.90/měs.

KonfigurovatPodrobnosti

Střed řady

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Polovina velikostí v této řadě stojí méně a polovina více, a $26.19 za GB měsíčně.

$6285.90/měs.

KonfigurovatPodrobnosti

Nejvíce RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Největší v této řadě: 3840 GB, a $25.87 za GB měsíčně.

$99338.90/měs.

KonfigurovatPodrobnosti

Nebo výběr zužte

Disk
Jádra

Strojů: 7 v této řadě, s cenou podle nejlevnějšího města.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Přenos se nepočítá · Varšava

    $2433.90/měs.

    KonfigurovatPodrobnosti

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Přenos se nepočítá · 2 měst

    $4745.90/měs.

    KonfigurovatPodrobnosti

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB přenosu · Toronto

    $5343.90/měs.

    KonfigurovatPodrobnosti

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB přenosu · 2 měst

    $6285.90/měs.

    KonfigurovatPodrobnosti

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Přenos se nepočítá · 2 měst

    $9491.90/měs.

    KonfigurovatPodrobnosti

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Přenos se nepočítá · Varšava

    $19469.90/měs.

    KonfigurovatPodrobnosti
Všechny GPU tarify s kartou, VRAM, podílem fyzické karty, strojem kolem ní, místem sestavení a měsíční cenou
TarifKartaVRAMCo získáteStrojZřízení vMěsíčně
G8-96NVIDIA L40S48 GB1× celá karta8 vCPU · 96 GB RAM · 40 GB SSD · neměřený přenos🇵🇱 Varšava$2433.90
G24-240NVIDIA H10080 GB1× celá karta24 vCPU · 240 GB RAM · 40 GB SSD · neměřený přenos🇫🇷 Paříž, 🇵🇱 Varšava$4745.90
G20-160AMD Instinct MI325X256 GB1× celá karta20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× celá karta24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× celé karty48 vCPU · 480 GB RAM · 40 GB SSD · neměřený přenos🇫🇷 Paříž, 🇵🇱 Varšava$9491.90
G64-768NVIDIA L40S384 GB8× celé karty64 vCPU · 768 GB RAM · 40 GB SSD · neměřený přenos🇵🇱 Varšava$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× celé karty224 vCPU · 3840 GB RAM · 40 GB SSD · neměřený přenos🇫🇷 Paříž$99338.90

Ceny jsou v USD, bez daně a prodlužují se za cenu, kterou jste zaplatili poprvé. Roční fakturace znamená slevu 10 % ze stejné sazby. Neúčtujeme zřizovací poplatek a neexistuje minimální doba kromě té, kterou si zvolíte.

Co kupujete

Linuxový server s připojenou kartou, ovladače jsou na vás.

Tyto stroje jsou přeprodávané zásoby dodavatelů. Díky tomu získáte karty, které bychom jinak nabídnout nemohli, ale přijdete o pohodlí naší klasické platformy. Obě stránky věci najdete níže.

Karta, uvedená jako zlomek, pokud jde o podíl

Pokud je velikost zlomkem fyzické karty, je to uvedeno („2GB podíl jedné karty A16 (sdílená karta)“), a pokud jde o celé karty, je uvedeno kolik. Zlomek pochází z vlastní definice tarifu dodavatele, ne od nás. Nic zde nezaokrouhluje podíl na celou kartu.

Čistý Linux bez předinstalovaného softwaru

Získáte root na jednom ze stejných šesti obrazů Linuxu, které nabízí zbytek katalogu. Ovladače NVIDIA, CUDA a framework si instalujete a aktualizujete sami. Není zde žádný obraz pro strojové učení a na stroji neběží žádný náš agent.

Tato řada nemá spravované zálohy

Doplněk nočních záloh patří k některým našim jiným řadám a toto je pod povrchem jiná platforma. Zálohujte si data mimo server sami (restic, borg nebo rsync na úložiště, které máte pod kontrolou), protože doplněk nočních záloh si zde koupit nelze.

Žádné benchmarky, protože naše by nebyly vaše

Výkon závisí na vašem modelu, velikosti dávky, přesnosti a verzi frameworku. Zveřejňujeme kartu, VRAM a podíl; jediné měření, kterému lze věřit, je to, které provedete na vlastní úloze, a měsíční období je dost krátké na to, abyste ho provedli.

Objednávka

Zásoby se potvrzují před sestavením stroje.

Toto je jediné místo, kde se objednávka GPU chová jinak než objednávka CPU, proto stojí za to si to přečíst před platbou, ne až po ní.

Sestaveno na objednávku, ne za minutu
Počítejte s jedním pracovním dnem. Objednávka se ověří proti skutečným zásobám dodavatele pro danou kartu v daném městě a stroj se sestaví po potvrzení.
Pokud karta zmizela, dozvíte se to jako první
Za stroj, který nedokážeme sestavit, nic neúčtujeme. Řekneme vám, kterou jinou velikost nebo lokalitu lze sestavit místo něj, a rozhodnutí je na vás.
Dostupnost se liší podle velikosti, ne podle řady
Dostupnost se liší podle velikosti: G8-96 je v 1 městě, G224-3840 v 1. Konfigurátor nabízí jen lokality, kde má zvolená velikost zásoby, a košík ostatní odmítne.
Měsíčně nebo ročně, volba pro každý server
Ročně znamená slevu 10 % ze stejné sazby při platbě dvanácti měsíců předem. Předplacené období se při předčasném zrušení serveru nevrací, proto je výchozí volbou měsíční platba.
Vlastní správa, jako zbytek katalogu
Root je váš, aktualizace jsou vaše a ovladače jsou vaše. Podpora odpovídá na otázky ke stroji a síti, ne k vašemu tréninku.
Větší karty nabízíme na poptávku, ne v ceníku
Kapacita třídy H100, H200 a MI300 se mění týden od týdne. Napište na [email protected] s uvedením karty, doby a oblasti a dostanete odpověď, co je skutečně k objednání.

Otázky

Sedm otázek, které slýcháme před každou objednávkou GPU.

Včetně dvou odpovědí, které nás stojí zakázky, což je obvykle znak, že jsou pravdivé.

Je GPU sdílené?
Záleží na velikosti a každá velikost to uvádí. Menší velikosti jsou podíly jedné fyzické karty: sloupec „Co dostanete“ uvádí zlomek, například 2GB podíl jedné karty A16, přičemž zbytek využívají jiní zákazníci. Větší velikosti jsou celé karty, jedna či více, bez dalších uživatelů. Takto to označujeme, protože právě tato skutečnost rozhoduje, zda vám tarif vyhovuje, a není to detail, který byste měli objevit až po první faktuře.
Mohu získat H100?
Ano, pokud je v nabídce. Velikosti s celými kartami jsou na této stránce právě teď G8-96 (1× celá karta karty NVIDIA L40S), G24-240 (1× celá karta karty NVIDIA H100), G20-160 (1× celá karta karty AMD Instinct MI325X), G24-240-720 (1× celá karta karty NVIDIA H200), G48-480 (2× celé karty karty NVIDIA H100), G64-768 (8× celé karty karty NVIDIA L40S) a G224-3840 (8× celé karty karty NVIDIA B300 SXM). Každá je uvedena jen ve městech, kde dodavatel kartu potvrdil, a to se mění týden od týdne, takže odpovědí je tabulka, ne slib. Pro kartu nebo oblast, která v ní není, napište na [email protected] s uvedením karty, doby a oblasti a dostanete přímou odpověď, co je ten týden k objednání.
Proč zřízení není okamžité?
Protože na druhém konci objednávky je fyzická karta. Instance s CPU pochází z fondu, který je prakticky vždy k dispozici; GPU je vzácné zboží, které mohl náš dodavatel dnes ráno prodat někomu jinému. Kartu proto ověřujeme proti skutečným zásobám před sestavením stroje, ne až potom; počítejte s jedním pracovním dnem. Pokud karta zmizela, dozvíte se to dříve, než je cokoli účtováno, a řekneme vám, které jiné velikosti nebo lokality lze sestavit místo ní.
Účtujete po hodinách?
Ne. Webové objednávky jsou měsíční nebo roční a roční platba znamená slevu 10 % ze stejné sazby. Hodinová částka uvedená vedle každé ceny je měsíční cena rozpočítaná na měsíc o 730 hodinách: číslo pro srovnání s poskytovatelem účtujícím podle spotřeby, ne sazba, kterou účtujeme. U GPU je tento rozdíl důležitější než u tarifů s CPU: pokud vaše úloha běží šest hodin týdně, poskytovatel účtující podle spotřeby vás vyjde levněji než jakýkoli měsíční tarif, včetně našeho, a raději to napíšeme zde, než abyste na to přišli později.
S jakou velikostí mám začít?
G8-96 pro většinu práce: 1× celá karta s 48 GB VRAM za $2433.90 měsíčně. Osm gigabajtů VRAM je hranice, kdy se model se 7 miliardami parametrů v 8bitové přesnosti vejde i s rezervou pro kontext a kdy SDXL běží bez boje o paměť. Pod ni jděte jen tehdy, pokud chcete stroj s CUDA pro vývoj. Nad ni přejděte, až narazíte na konkrétní limit: model, který se nevejde, nebo dlouhou frontu, protože je karta sdílená. Obojí poznáte hned, jakmile k tomu dojde.
Co je na stroji nainstalováno?
Čistý obraz Linuxu a nic dalšího. Ovladače NVIDIA, CUDA, cuDNN a jakýkoli framework si instalujete sami, za stejných podmínek vlastní správy jako u každého jiného serveru, který prodáváme. Předkonfigurovaný obraz pro strojové učení nedodáváme a raději to řekneme zde, než abyste ve dvě ráno našli prázdný adresář s ovladači.
Zveřejňujete benchmarky?
Ne a ani to neplánujeme. Výkon GPU závisí na vašem modelu, velikosti dávky, přesnosti a verzi frameworku, takže jakékoli číslo, které bychom uvedli, by pocházelo z úlohy, která není vaše. Specifikace je karta, VRAM a jaký podíl karty dostanete; to jsou fakta. Co s nimi uděláte, lze změřit jen na vaší vlastní úloze, a měsíční období je dost krátké na to, abyste to změřili.

Čtěte dál

Kam dál.

Nejste si jisti, že GPU je řešení

Dvě levnější místa, kam se podívat nejdřív.