Langsung ke konten

Cloud VPS · GPU

Kartu GPU, dan penjelasan jujur tentang seberapa banyak bagiannya yang menjadi milik Anda.

7 ukuran, dari 1× kartu utuh seharga $2433.90 per bulan hingga 8× kartu utuh NVIDIA B300 SXM dengan 2304 GB VRAM. Setiap ukuran mencantumkan kartunya, VRAM-nya, dan apakah itu porsi atau kartu tersendiri, dan setiap ukuran hanya mencantumkan kota tempat kartu tersebut benar-benar tersedia.

Konfigurasi server GPULihat ukuran
Render kartu grafis, kipas menghadap ke atasKartu utuh, atausebagiannyaHanya jika tersedia

Ukuran

7 ukuran, 5 kartu, dan lokasi penyiapan masing-masing.

Porsi dihargai sebagai porsi dan kartu utuh sebagai kartu utuh: kolom 'Yang Anda dapatkan' menyebutkan yang mana, dengan istilah pemasok sendiri. Kolom lokasi bukan jangkauan seluruh lini, melainkan tempat ukuran tersebut memiliki stok.

Mulai di sini

Pilihan termurah

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Termurah di lini ini, dengan $25.35 per GB per bulan.

$2433.90/bln

KonfigurasiDetail

Tengah-tengah lini

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Separuh ukuran di lini ini lebih murah dan separuh lebih mahal, dengan $26.19 per GB per bulan.

$6285.90/bln

KonfigurasiDetail

RAM terbanyak

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Terbesar di lini ini: 3840 GB, dengan $25.87 per GB per bulan.

$99338.90/bln

KonfigurasiDetail

Atau persempit pilihan

Disk
Core

7 mesin di lini ini, dengan harga mulai dari kota termurahnya.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Trafik tidak dihitung · Warsawa

    $2433.90/bln

    KonfigurasiDetail

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Trafik tidak dihitung · 2 kota

    $4745.90/bln

    KonfigurasiDetail

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · Transfer 15 TB · Toronto

    $5343.90/bln

    KonfigurasiDetail

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · Transfer 15 TB · 2 kota

    $6285.90/bln

    KonfigurasiDetail

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Trafik tidak dihitung · 2 kota

    $9491.90/bln

    KonfigurasiDetail

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Trafik tidak dihitung · Warsawa

    $19469.90/bln

    KonfigurasiDetail
Setiap paket GPU dengan kartunya, VRAM, seberapa besar bagian kartu fisik, mesin di sekitarnya, lokasi penyiapan, dan harga bulanannya
PaketKartuVRAMYang Anda dapatkanMesinDisiapkan dalamBulanan
G8-96NVIDIA L40S48 GB1× kartu utuh8 vCPU · 96 GB RAM · 40 GB SSD · trafik unmetered (tidak dihitung)🇵🇱 Warsawa$2433.90
G24-240NVIDIA H10080 GB1× kartu utuh24 vCPU · 240 GB RAM · 40 GB SSD · trafik unmetered (tidak dihitung)🇫🇷 Paris, 🇵🇱 Warsawa$4745.90
G20-160AMD Instinct MI325X256 GB1× kartu utuh20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× kartu utuh24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× kartu utuh48 vCPU · 480 GB RAM · 40 GB SSD · trafik unmetered (tidak dihitung)🇫🇷 Paris, 🇵🇱 Warsawa$9491.90
G64-768NVIDIA L40S384 GB8× kartu utuh64 vCPU · 768 GB RAM · 40 GB SSD · trafik unmetered (tidak dihitung)🇵🇱 Warsawa$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× kartu utuh224 vCPU · 3840 GB RAM · 40 GB SSD · trafik unmetered (tidak dihitung)🇫🇷 Paris$99338.90

Harga dalam USD, belum termasuk pajak, dan diperpanjang dengan harga yang pertama kali Anda bayar. Penagihan tahunan memberi potongan 10% dari tarif yang sama. Tidak ada biaya setup dan tidak ada periode minimum selain yang Anda pilih.

Apa yang Anda beli

Server Linux dengan kartu terpasang, dan stack driver adalah tugas Anda.

Mesin ini adalah stok pemasok yang dijual kembali. Dengan begitu Anda mendapatkan kartu yang tidak dapat kami tawarkan dengan cara lain, tetapi Anda kehilangan kemudahan platform klasik kami. Kedua sisinya dijelaskan di bawah.

Kartunya, dinyatakan sebagai pecahan jika memang pecahan

Jika sebuah ukuran adalah pecahan dari kartu fisik, hal itu disebutkan, misalnya “porsi 2 GB dari satu A16 (kartu bersama)”, dan jika berupa kartu utuh, disebutkan jumlahnya. Pecahan tersebut berasal dari definisi paket pemasok sendiri, bukan dari kami. Tidak ada yang membulatkan porsi menjadi satu kartu di sini.

Linux polos, tanpa stack bawaan

Anda mendapatkan akses root pada salah satu dari enam image OS Linux yang sama dengan katalog lainnya. Driver NVIDIA, CUDA, dan framework Anda menjadi tanggung jawab Anda untuk dipasang dan di-patch. Tidak ada image machine learning dan tidak ada agen kami di mesin.

Tidak ada backup terkelola di lini ini

Add-on backup harian tersedia di beberapa lini kami yang lain, dan lini ini berjalan di platform yang berbeda. Buat backup Anda sendiri di luar mesin (restic, borg, atau rsync ke penyimpanan yang Anda kendalikan), karena di sini tidak ada add-on backup harian yang dapat dibeli.

Tanpa benchmark, karena hasil kami tidak akan sama dengan hasil Anda

Throughput bergantung pada model, ukuran batch, presisi, dan versi framework Anda. Kami mencantumkan kartu, VRAM, dan porsinya; satu-satunya pengukuran yang layak dipercaya adalah yang Anda lakukan pada beban kerja Anda sendiri, dan periode bulanan cukup singkat untuk melakukannya.

Pemesanan

Stok dikonfirmasi sebelum mesin disiapkan.

Inilah satu-satunya hal di mana pesanan GPU berbeda dari pesanan CPU, jadi sebaiknya dibaca sebelum Anda membayar, bukan sesudahnya.

Disiapkan sesuai pesanan, bukan dalam satu menit
Sediakan waktu satu hari kerja. Pesanan diperiksa terhadap stok nyata pemasok untuk kartu tersebut di kota tersebut, dan mesin disiapkan setelah dikonfirmasi.
Jika kartunya sudah tidak tersedia, Anda yang pertama diberi tahu
Tidak ada biaya untuk mesin yang tidak dapat kami siapkan. Kami memberi tahu ukuran atau lokasi lain yang dapat disiapkan sebagai gantinya, dan Anda yang memutuskan.
Ketersediaan tergantung ukuran, bukan lini
Jangkauan berbeda per ukuran: G8-96 tersedia di 1 kota, G224-3840 di 1. Konfigurator hanya menawarkan lokasi yang memiliki stok untuk ukuran yang Anda pilih, dan keranjang menolak lokasi lainnya.
Bulanan atau tahunan, pilihan Anda per server
Tahunan mendapat potongan 10% dari tarif yang sama untuk pembayaran dua belas bulan di muka. Periode prabayar tidak dikembalikan jika Anda menghapus server lebih awal, itulah sebabnya bulanan menjadi default.
Dikelola sendiri, seperti katalog lainnya
Root milik Anda, patching tanggung jawab Anda, dan stack driver juga tanggung jawab Anda. Dukungan menjawab pertanyaan tentang mesin dan jaringan, bukan tentang proses training Anda.
Kartu yang lebih besar diberikan penawaran, tidak dicantumkan
Kapasitas kelas H100, H200, dan MI300 berubah dari minggu ke minggu. Kirim email ke [email protected] dengan menyebutkan kartu, durasi, dan region untuk mendapatkan jawaban tentang apa yang benar-benar dapat dipesan.

Pertanyaan

Tujuh pertanyaan yang diajukan kepada kami sebelum setiap pesanan GPU.

Termasuk dua jawaban yang membuat kami kehilangan penjualan, yang biasanya menandakan bahwa jawaban itulah yang benar.

Apakah GPU-nya dipakai bersama?
Tergantung ukurannya, dan setiap ukuran menyebutkannya. Ukuran yang lebih kecil adalah porsi dari satu kartu fisik: kolom 'Yang Anda dapatkan' mencantumkan pecahannya, misalnya porsi 2 GB dari satu A16 dengan penyewa lain di sisanya. Ukuran yang lebih besar adalah kartu utuh, satu atau beberapa, tanpa pengguna lain. Kami memberi label seperti itu karena itulah fakta yang menentukan apakah sebuah paket cocok untuk Anda, bukan detail yang baru ditemukan setelah invoice pertama.
Bisakah saya mendapatkan H100?
Ya, jika tercantum. Ukuran kartu utuh di halaman ini saat ini adalah G8-96 (1× kartu utuh NVIDIA L40S), G24-240 (1× kartu utuh NVIDIA H100), G20-160 (1× kartu utuh AMD Instinct MI325X), G24-240-720 (1× kartu utuh NVIDIA H200), G48-480 (2× kartu utuh NVIDIA H100), G64-768 (8× kartu utuh NVIDIA L40S), dan G224-3840 (8× kartu utuh NVIDIA B300 SXM). Masing-masing hanya tercantum di kota tempat pemasok telah mengonfirmasi kartunya, dan itu berubah dari minggu ke minggu, jadi tabel inilah jawabannya, bukan janji. Untuk kartu atau region yang tidak tercantum, tulis ke [email protected] dengan menyebutkan kartu, durasi, dan region, dan Anda akan mendapat jawaban langsung tentang apa yang dapat dipesan minggu itu.
Mengapa provisioning tidak instan?
Karena ada kartu fisik di ujung lain pesanan. Instans CPU berasal dari pool yang praktis selalu tersedia; GPU adalah barang langka yang mungkin sudah dijual pemasok kami kepada orang lain pagi ini. Jadi kami mengonfirmasi kartu terhadap stok nyata sebelum mesin disiapkan, bukan sesudahnya; sediakan waktu satu hari kerja. Jika kartunya sudah habis, Anda diberi tahu sebelum ada tagihan apa pun, dan kami menyebutkan ukuran atau lokasi lain mana yang dapat disiapkan sebagai gantinya.
Apakah Anda menagih per jam?
Tidak. Pesanan web bersifat bulanan atau tahunan, dan tahunan memberi potongan 10% dari tarif yang sama. Angka per jam yang tercantum di samping setiap harga adalah harga bulanan dibagi dengan bulan 730 jam: angka yang Anda perlukan saat membandingkan kami dengan penyedia yang menghitung pemakaian, bukan tarif yang kami kenakan. Pada GPU, perbedaan ini lebih penting daripada pada paket CPU: jika pekerjaan Anda berjalan enam jam per minggu, penyedia yang menghitung pemakaian akan lebih murah daripada paket bulanan mana pun, termasuk milik kami, dan kami lebih suka menuliskannya di sini daripada Anda menghitungnya sendiri nanti.
Ukuran mana yang sebaiknya saya pilih untuk memulai?
G8-96 untuk sebagian besar pekerjaan: 1× kartu utuh dengan 48 GB VRAM seharga $2433.90 per bulan. Delapan gigabyte VRAM adalah ambang batas di mana model 7 miliar parameter dalam 8-bit muat dengan ruang untuk konteks dan SDXL berjalan tanpa berebut memori. Mulailah di bawahnya hanya jika Anda menginginkan mesin CUDA untuk pengembangan; naiklah ke atasnya saat Anda menemui batas tertentu: model yang tidak muat, atau antrean yang panjang karena kartunya dipakai bersama. Keduanya jelas terlihat saat terjadi.
Apa yang terpasang di mesin?
Image Linux polos dan tidak ada yang lain. Driver NVIDIA, CUDA, cuDNN, dan framework apa pun yang Anda gunakan menjadi tanggung jawab Anda untuk dipasang, dengan ketentuan dikelola sendiri yang sama seperti setiap server lain yang kami jual. Kami tidak menyediakan image machine learning yang sudah dikonfigurasi, dan kami lebih suka mengatakannya di halaman ini daripada Anda menemukan direktori driver kosong pada pukul 2 pagi.
Apakah Anda memublikasikan benchmark?
Tidak, dan kami tidak berniat membuatnya. Throughput pada GPU bergantung pada model, ukuran batch, presisi, dan versi framework Anda, sehingga angka apa pun yang kami cantumkan berasal dari beban kerja yang bukan milik Anda. Spesifikasinya adalah kartu, VRAM, dan seberapa besar bagian kartu yang Anda dapatkan; itu semua fakta. Apa yang Anda lakukan dengannya hanya dapat diukur pada beban kerja Anda sendiri, dan periode bulanan cukup singkat untuk mengukurnya.

Baca selanjutnya

Langkah selanjutnya.

Belum yakin GPU adalah jawabannya

Dua pilihan yang lebih murah untuk dilihat terlebih dahulu.