Перейти к содержимому

Cloud VPS · GPU

Карта GPU и честное описание того, какая её часть принадлежит вам.

7 размеров: от 1× целая карта за $2433.90 в месяц до 8× целых карт NVIDIA B300 SXM с 2304 GB VRAM. Для каждого размера указаны карта, объём VRAM и то, доля это или отдельная карта. Кроме того, для каждого размера перечислены только те города, где эта карта действительно есть в наличии.

Настроить GPU-серверСмотреть размеры
Изображение видеокарты вентиляторами вверхКарта целикомили её частьТолько при наличии

Размеры

7 размеров, 5 карт и места, где собирается каждая.

Доли оцениваются как доли, а целые карты как целые карты: столбец «Что вы получаете» указывает, что именно, в терминах самого поставщика. Столбец площадки показывает не охват всей линейки, а то, где есть в наличии именно этот размер.

Начните здесь

Самый дешёвый вариант

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Самый недорогой в этой линейке, а также $25.35 за GB в месяц.

$2433.90/мес.

НастроитьПодробнее

Середина линейки

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Половина размеров этой линейки стоит дешевле, половина дороже, а также $26.19 за GB в месяц.

$6285.90/мес.

НастроитьПодробнее

Больше всего RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Самый большой в этой линейке: 3840 GB, а также $25.87 за GB в месяц.

$99338.90/мес.

НастроитьПодробнее

Или уточните выбор

Диск
Ядра

Машин в этой линейке: 7, цена указана по самому дешёвому городу.

Все тарифы GPU: карта, VRAM, какая доля физической карты, конфигурация машины, где она собирается и цена в месяц
ТарифКартаVRAMЧто вы получаетеМашинаСборка вВ месяц
G8-96NVIDIA L40S48 GB1× целая карта8 vCPU · 96 GB RAM · 40 GB SSD · трафик без учёта🇵🇱 Варшава$2433.90
G24-240NVIDIA H10080 GB1× целая карта24 vCPU · 240 GB RAM · 40 GB SSD · трафик без учёта🇫🇷 Париж, 🇵🇱 Варшава$4745.90
G20-160AMD Instinct MI325X256 GB1× целая карта20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Торонто$5343.90
G24-240-720NVIDIA H200141 GB1× целая карта24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Атланта, 🇺🇸 Нью-Йорк$6285.90
G48-480NVIDIA H100160 GB2× целых карт48 vCPU · 480 GB RAM · 40 GB SSD · трафик без учёта🇫🇷 Париж, 🇵🇱 Варшава$9491.90
G64-768NVIDIA L40S384 GB8× целых карт64 vCPU · 768 GB RAM · 40 GB SSD · трафик без учёта🇵🇱 Варшава$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× целых карт224 vCPU · 3840 GB RAM · 40 GB SSD · трафик без учёта🇫🇷 Париж$99338.90

Цены указаны в USD без учёта налогов, продление по цене первой оплаты. Годовая оплата даёт скидку 10% от той же ставки. Платы за установку нет, минимального срока, кроме выбранного вами, тоже нет.

Что вы покупаете

Linux-сервер с подключённой картой; драйверы устанавливаете вы.

Эти машины: перепродаваемые ресурсы поставщика. Благодаря этому вы получаете карты, которые иначе мы предложить не смогли бы, но лишаетесь удобств нашей классической платформы. Обе стороны описаны ниже.

Карта, с указанием доли, если это доля

Если размер составляет долю физической карты, это указано прямо («2 GB slice of one A16 (shared card)», то есть 2 GB от одной A16, карта общая), а если это целые карты, указано, сколько их. Доля взята из описания тарифа самого поставщика, а не из наших расчётов. Здесь ни одна доля не округляется до целой карты.

Чистый Linux без предустановленного ПО

Вы получаете root-доступ на одном из тех же шести образов Linux, что и в остальном каталоге. Драйверы NVIDIA, CUDA и фреймворк устанавливаете и обновляете вы. Образа для машинного обучения нет, и никаких наших агентов на машине тоже нет.

В этой линейке нет управляемого резервного копирования

Дополнительная услуга ночного резервного копирования есть в некоторых других наших линейках, а здесь в основе другая платформа. Делайте резервные копии самостоятельно за пределы сервера (restic, borg или rsync в хранилище, которое вы контролируете), потому что купить ночное резервное копирование здесь нельзя.

Никаких бенчмарков: наши результаты не были бы вашими

Производительность зависит от модели, размера батча, точности и версии фреймворка. Мы указываем карту, объём VRAM и долю; доверять стоит только измерению, которое вы проведёте на собственной нагрузке, а месячного срока достаточно, чтобы его провести.

Заказ

Наличие подтверждается до сборки машины.

Это единственное, в чём заказ GPU отличается от заказа с ЦП, поэтому стоит прочитать это до оплаты, а не после.

Сборка под заказ, а не за минуту
Рассчитывайте на один рабочий день. Заказ сверяется с реальным наличием этой карты у поставщика в этом городе, и машина собирается после подтверждения.
Если карты уже нет, вы узнаете первым
За машину, которую мы не можем собрать, ничего не списывается. Мы сообщим, какой другой размер или площадку можно собрать вместо неё, а решение за вами.
Наличие зависит от размера, а не от линейки
Охват зависит от размера: G8-96 доступен в 1 городе, G224-3840 в 1. Конфигуратор предлагает только площадки, где выбранный размер есть в наличии, а корзина отклоняет остальные.
Помесячно или за год, на ваш выбор для каждого сервера
Оплата за год даёт скидку 10% от той же ставки при оплате двенадцати месяцев вперёд. Предоплаченный срок не возвращается, если вы удалите сервер раньше, поэтому по умолчанию выбрана помесячная оплата.
Самостоятельное управление, как и во всём каталоге
Root-доступ ваш, обновления на вас, драйверы тоже на вас. Поддержка отвечает на вопросы о машине и сети, но не о вашем обучении модели.
Более мощные карты по запросу, а не в каталоге
Доступность мощностей класса H100, H200 и MI300 меняется от недели к неделе. Напишите на [email protected], указав карту, срок и регион, и получите ответ о том, что действительно доступно для заказа.

Вопросы

Семь вопросов, которые нам задают перед каждым заказом GPU.

Включая два ответа, из-за которых мы теряем продажи; обычно это признак того, что они правдивы.

GPU общий?
Это зависит от размера, и у каждого размера это указано. Меньшие размеры представляют собой доли одной физической карты: в столбце «Что вы получаете» указана доля, например 2 GB одной A16, остальную часть которой используют другие клиенты. Более крупные размеры состоят из целых карт, одной или нескольких, без других клиентов на них. Мы указываем это именно так, потому что этот факт определяет, подходит ли вам тариф, а не является деталью, которую узнают после первого счёта.
Можно ли получить H100?
Да, если она указана в списке. Сейчас на этой странице размеры с целыми картами: G8-96 (1× целая карта NVIDIA L40S), G24-240 (1× целая карта NVIDIA H100), G20-160 (1× целая карта AMD Instinct MI325X), G24-240-720 (1× целая карта NVIDIA H200), G48-480 (2× целых карт NVIDIA H100), G64-768 (8× целых карт NVIDIA L40S) и G224-3840 (8× целых карт NVIDIA B300 SXM). Каждый указан только в городах, где поставщик подтвердил наличие карты, а это меняется от недели к неделе, поэтому ответом служит таблица, а не обещание. Если нужной карты или региона в ней нет, напишите на [email protected], указав карту, срок и регион, и получите прямой ответ о том, что доступно для заказа на этой неделе.
Почему развёртывание не мгновенное?
Потому что на другом конце заказа находится физическая карта. Экземпляр с CPU берётся из пула, который фактически всегда доступен; GPU же дефицитный товар, и наш поставщик мог продать его кому-то другому сегодня утром. Поэтому мы сверяем карту с реальным наличием до сборки машины, а не после: заложите на это один рабочий день. Если карты уже нет, вы узнаете об этом до какого-либо списания, и мы скажем, какие другие размеры или площадки можно собрать вместо неё.
Есть ли почасовая оплата?
Нет. Заказы на сайте оформляются помесячно или на год, и при оплате за год действует скидка 10% от той же ставки. Почасовая цифра рядом с каждой ценой: это месячная цена, разделённая на месяц в 730 часов. Она нужна для сравнения с провайдерами с почасовой тарификацией, но мы её не взимаем. Для GPU это различие важнее, чем для тарифов на ЦП: если ваша задача работает шесть часов в неделю, провайдер с почасовой тарификацией обойдётся дешевле любого месячного тарифа, включая наши, и мы предпочитаем написать об этом здесь, чем оставить вам выяснять это позже.
С какого размера начать?
G8-96 подходит для большинства задач: 1× целая карта с 48 GB VRAM за $2433.90 в месяц. Восемь гигабайт VRAM: это порог, при котором модель на 7 миллиардов параметров в 8-битной точности помещается с запасом под контекст, а SDXL работает без борьбы за память. Начинайте ниже этого порога, только если вам нужна машина с CUDA для разработки; переходите выше, когда упрётесь в конкретное ограничение: модель не помещается или очередь длинная, потому что карта общая. И то и другое сразу заметно.
Что установлено на машине?
Чистый образ Linux и ничего больше. Драйверы NVIDIA, CUDA, cuDNN и нужный вам фреймворк устанавливаете вы, на тех же условиях самостоятельного управления, что и для любого другого нашего сервера. Мы не предлагаем преднастроенный образ для машинного обучения и предпочитаем сказать об этом на этой странице, чем чтобы вы обнаружили пустой каталог драйверов в 2 часа ночи.
Публикуете ли вы бенчмарки?
Нет, и мы не собираемся этого делать. Производительность GPU зависит от вашей модели, размера батча, точности и версии фреймворка, поэтому любая цифра, которую мы бы опубликовали, была бы получена на нагрузке, которая не ваша. Характеристики: это карта, объём VRAM и то, какая часть карты вам достаётся; это факты. Что вы с ними сделаете, можно измерить только на вашей собственной нагрузке, а месячный срок достаточно короткий, чтобы это измерить.

Читайте также

Что дальше.

Не уверены, что вам нужен GPU

Два более дешёвых варианта, которые стоит рассмотреть сначала.