Перейти до вмісту

Cloud VPS · GPU

Карта GPU і чесний опис того, яка її частина належить вам.

7 розмірів: від 1× ціла карта за $2433.90 на місяць до 8× цілі карти NVIDIA B300 SXM з 2304 GB VRAM. Для кожного розміру вказано карту, VRAM і те, чи це частка, чи окрема карта, а також лише ті міста, де ця карта справді є в наявності.

Налаштувати GPU-серверПереглянути розміри
Зображення відеокарти вентиляторами догориУся карта або її частинаЛише за наявності

Розміри

7 розмірів, 5 карт і де готується кожна з них.

Частки оцінюються як частки, а цілі карти як цілі карти: стовпець «Що ви отримуєте» вказує, що саме, термінами постачальника. Стовпець майданчика не є покриттям усієї лінійки: це місця, де саме цей розмір є в наявності.

Почніть тут

Найдешевший варіант

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Найдешевший у цій лінійці, і $25.35 за GB на місяць.

$2433.90/міс

НалаштуватиДокладніше

Середина лінійки

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Половина розмірів у цій лінійці коштує менше, а половина більше, і $26.19 за GB на місяць.

$6285.90/міс

НалаштуватиДокладніше

Найбільше RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Найбільший у цій лінійці: 3840 GB, і $25.87 за GB на місяць.

$99338.90/міс

НалаштуватиДокладніше

Або звузьте вибір

Диск
Ядра

Машин на цій лінійці: 7, ціна від найдешевшого міста.

Усі тарифи GPU з картою, VRAM, часткою фізичної карти, машиною навколо неї, місцем збирання та щомісячною ціною
ТарифКартаVRAMЩо ви отримуєтеМашинаМісце збиранняПомісячно
G8-96NVIDIA L40S48 GB1× ціла карта8 vCPU · 96 GB RAM · 40 GB SSD · трафік не тарифікується🇵🇱 Варшава$2433.90
G24-240NVIDIA H10080 GB1× ціла карта24 vCPU · 240 GB RAM · 40 GB SSD · трафік не тарифікується🇫🇷 Париж, 🇵🇱 Варшава$4745.90
G20-160AMD Instinct MI325X256 GB1× ціла карта20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Торонто$5343.90
G24-240-720NVIDIA H200141 GB1× ціла карта24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Атланта, 🇺🇸 Нью-Йорк$6285.90
G48-480NVIDIA H100160 GB2× цілі карти48 vCPU · 480 GB RAM · 40 GB SSD · трафік не тарифікується🇫🇷 Париж, 🇵🇱 Варшава$9491.90
G64-768NVIDIA L40S384 GB8× цілі карти64 vCPU · 768 GB RAM · 40 GB SSD · трафік не тарифікується🇵🇱 Варшава$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× цілі карти224 vCPU · 3840 GB RAM · 40 GB SSD · трафік не тарифікується🇫🇷 Париж$99338.90

Ціни вказано в USD без податків, продовження за ціною першої оплати. Щорічна оплата дає знижку 10% від тієї ж ставки. Плати за налаштування немає, мінімального строку, окрім обраного вами, теж немає.

Що ви купуєте

Linux-сервер із підключеною картою, а стек драйверів на вас.

Ці машини є перепроданими ресурсами постачальника. Це дає вам карти, які інакше ми не могли б запропонувати, але позбавляє зручностей нашої класичної платформи. Обидві сторони описано нижче.

Карта, вказана часткою, якщо це частка

Якщо розмір є часткою фізичної карти, це вказано («частка 2 GB однієї A16 (спільна карта)»), а якщо це цілі карти, вказано їхню кількість. Частка взята з опису тарифу самого постачальника, а не від нас. Ніщо тут не округлює частку до цілої карти.

Звичайний Linux без попередньо встановленого стеку

Ви отримуєте root на одному з тих самих шести образів Linux, що й в усьому каталозі. Драйвери NVIDIA, CUDA та ваш фреймворк ви встановлюєте й оновлюєте самостійно. Окремого образу для машинного навчання немає, і жодного нашого агента на машині немає.

На цій лінійці немає керованих резервних копій

Додаткова послуга щонічного резервного копіювання належить до деяких інших наших лінійок, а тут в основі інша платформа. Робіть власні резервні копії поза сервером (restic, borg або rsync у сховище, яке ви контролюєте), бо тут немає послуги щонічного резервного копіювання.

Без бенчмарків, бо наші не були б вашими

Продуктивність залежить від вашої моделі, розміру батча, точності та версії фреймворка. Ми публікуємо карту, VRAM і частку; єдиний вимір, якому варто довіряти, це той, який ви зробите на власному навантаженні, а помісячний період достатньо короткий, щоб його зробити.

Замовлення

Наявність підтверджується до збирання машини.

Це єдине місце, де замовлення GPU поводиться інакше, ніж замовлення CPU, тож варто прочитати це до оплати, а не після.

Збирання під замовлення, а не за хвилину
Розраховуйте на один робочий день. Замовлення перевіряється на реальну наявність цієї карти в цьому місті в постачальника, і машину збирають після підтвердження.
Якщо карти вже немає, ви дізнаєтеся першими
За машину, яку ми не можемо зібрати, нічого не списується. Ми скажемо, який інший розмір чи майданчик можна зібрати натомість, і ви вирішите.
Наявність залежить від розміру, а не від лінійки
Покриття залежить від розміру: G8-96 доступний у 1 місті, G224-3840 у 1. Конфігуратор пропонує лише майданчики, де обраний розмір є в наявності, а кошик відхиляє решту.
Помісячно або щорічно, на ваш вибір для кожного сервера
Щорічна оплата дає знижку 10% від тієї ж ставки за оплату дванадцяти місяців наперед. Передоплачені строки не повертаються, якщо ви видалите сервер раніше, тому за замовчуванням оплата помісячна.
Самостійне керування, як і в решті каталогу
Root ваш, оновлення на вас, і стек драйверів на вас. Підтримка відповідає на запитання про машину та мережу, а не про ваше навчання моделі.
Потужніші карти за запитом, а не в каталозі
Наявність потужностей класу H100, H200 і MI300 змінюється щотижня. Напишіть на [email protected], вказавши карту, тривалість і регіон, щоб дізнатися, що реально доступно для замовлення.

Запитання

Сім запитань, які нам ставлять перед кожним замовленням GPU.

Зокрема дві відповіді, через які ми втрачаємо продажі; зазвичай це ознака того, що вони правдиві.

Чи GPU спільний?
Це залежить від розміру, і для кожного розміру це вказано. Менші розміри є частками однієї фізичної карти: стовпець «Що ви отримуєте» показує частку, наприклад частка 2 GB однієї A16, решту якої використовують інші клієнти. Більші розміри є цілими картами, однією або кількома, без інших користувачів. Ми позначаємо це саме так, бо цей факт визначає, чи підходить вам тариф, а не деталь, яку ви виявите після першого рахунку.
Чи можна отримати H100?
Так, якщо його вказано. Розміри з цілою картою на цій сторінці зараз такі: G8-96 (1× ціла карта NVIDIA L40S), G24-240 (1× ціла карта NVIDIA H100), G20-160 (1× ціла карта AMD Instinct MI325X), G24-240-720 (1× ціла карта NVIDIA H200), G48-480 (2× цілі карти NVIDIA H100), G64-768 (8× цілі карти NVIDIA L40S) і G224-3840 (8× цілі карти NVIDIA B300 SXM). Кожен із них указано лише в тих містах, де постачальник підтвердив наявність карти, а це змінюється щотижня, тож відповіддю є таблиця, а не обіцянка. Якщо потрібної карти чи регіону в ній немає, напишіть на [email protected], указавши карту, термін і регіон, і ви отримаєте пряму відповідь про те, що доступно для замовлення цього тижня.
Чому запуск не миттєвий?
Тому що на іншому кінці замовлення фізична карта. CPU-інстанс береться з пулу, який фактично завжди доступний; GPU є дефіцитним, і наш постачальник міг продати його комусь сьогодні вранці. Тож ми підтверджуємо карту за реальною наявністю до збирання машини, а не після: розраховуйте на один робочий день. Якщо карти вже немає, ви дізнаєтеся про це до будь-якого списання, і ми скажемо, які інші розміри чи майданчики можна зібрати натомість.
Чи є погодинна оплата?
Ні. Замовлення на сайті оформлюються помісячно або щорічно, а щорічна оплата дає знижку 10% від тієї ж ставки. Погодинна сума біля кожної ціни: це щомісячна ціна, поділена на місяць із 730 годин. Це число потрібне, щоб порівняти нас із провайдером погодинної оплати, а не ставка, яку ми стягуємо. Для GPU ця різниця важить більше, ніж для тарифів на ЦП: якщо ваше завдання працює шість годин на тиждень, провайдер із погодинною оплатою обійдеться вам дешевше за будь-який помісячний тариф, зокрема наш, і ми воліємо написати це тут, ніж залишити вам з'ясовувати це пізніше.
З якого розміру почати?
G8-96 для більшості завдань: 1× ціла карта з 48 GB VRAM за $2433.90 на місяць. Вісім гігабайтів VRAM: це поріг, за якого модель на 7 мільярдів параметрів у 8-бітному форматі вміщується із запасом для контексту, а SDXL працює без боротьби за пам’ять. Починайте нижче лише тоді, коли вам потрібна машина з CUDA для розробки; переходьте вище, коли впираєтеся в конкретну межу: модель не вміщується або черга довга, бо карта спільна. Обидві ситуації очевидні, коли трапляються.
Що встановлено на машині?
Звичайний образ Linux і нічого більше. Драйвери NVIDIA, CUDA, cuDNN і будь-який фреймворк ви встановлюєте самі, на тих самих умовах самостійного керування, що й для всіх інших наших серверів. Ми не постачаємо попередньо налаштований образ для машинного навчання, і краще скажемо про це тут, ніж ви знайдете порожній каталог драйверів о другій ночі.
Чи публікуєте ви бенчмарки?
Ні, і не плануємо. Продуктивність GPU залежить від вашої моделі, розміру батча, точності та версії фреймворку, тож будь-яка надрукована нами цифра була б з навантаження, яке не є вашим. Специфікація: карта, VRAM і яку частку карти ви отримуєте; це факти. Що ви з ними робите, можна виміряти лише на власному навантаженні, а помісячний строк достатньо короткий, щоб це зробити.

Читати далі

Куди далі.

Не впевнені, що вам потрібен GPU

Два дешевші варіанти, які варто розглянути спершу.