Aller au contenu

Cloud VPS · GPU

Une carte GPU, et une description honnête de la part qui vous revient.

7 tailles, de 1× carte entière à $2433.90 par mois jusqu’à 8× cartes entières de NVIDIA B300 SXM avec 2304 GB de VRAM. Chaque taille indique sa carte, sa VRAM et s’il s’agit d’une fraction ou d’une carte entière, et chaque taille ne liste que les villes où cette carte est réellement en stock.

Configurer un serveur GPUVoir les tailles
Rendu d’une carte graphique, ventilateurs vers le hautLa carte, ouune fractionUniquement là oùil y a du stock

Tailles

7 tailles, 5 cartes, et l’emplacement de chacune.

Les fractions sont facturées comme des fractions et les cartes entières comme des cartes entières : la colonne « Ce que vous obtenez » l’indique, dans les termes du fournisseur. La colonne du site n’est pas la couverture de toute la gamme : c’est l’endroit où cette taille précise est en stock.

Commencer ici

L'entrée la moins chère

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

La moins chère de cette gamme, soit $25.35 par GB par mois.

$2433.90/mois

ConfigurerDétails

Le milieu de la gamme

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

La moitié des tailles de cette gamme coûtent moins cher et l'autre moitié plus cher, soit $26.19 par GB par mois.

$6285.90/mois

ConfigurerDétails

Le plus de RAM

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

La plus grande de cette gamme : 3840 GB, soit $25.87 par GB par mois.

$99338.90/mois

ConfigurerDétails

Ou affinez

Disque
Cœurs

7 machines dans cette gamme, au prix de leur ville la moins chère.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Trafic non compté · Varsovie

    $2433.90/mois

    ConfigurerDétails

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Trafic non compté · 2 villes

    $4745.90/mois

    ConfigurerDétails

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB de transfert · Toronto

    $5343.90/mois

    ConfigurerDétails

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB de transfert · 2 villes

    $6285.90/mois

    ConfigurerDétails

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Trafic non compté · 2 villes

    $9491.90/mois

    ConfigurerDétails

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Trafic non compté · Varsovie

    $19469.90/mois

    ConfigurerDétails
Chaque offre GPU avec sa carte, sa VRAM, la part de carte physique qu’elle représente, la machine qui l’entoure, son lieu d’installation et son prix mensuel
OffreCarteVRAMCe que vous obtenezMachineInstallé àMensuel
G8-96NVIDIA L40S48 GB1× carte entière8 vCPU · 96 GB RAM · 40 GB SSD · trafic non décompté🇵🇱 Varsovie$2433.90
G24-240NVIDIA H10080 GB1× carte entière24 vCPU · 240 GB RAM · 40 GB SSD · trafic non décompté🇫🇷 Paris, 🇵🇱 Varsovie$4745.90
G20-160AMD Instinct MI325X256 GB1× carte entière20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× carte entière24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× cartes entières48 vCPU · 480 GB RAM · 40 GB SSD · trafic non décompté🇫🇷 Paris, 🇵🇱 Varsovie$9491.90
G64-768NVIDIA L40S384 GB8× cartes entières64 vCPU · 768 GB RAM · 40 GB SSD · trafic non décompté🇵🇱 Varsovie$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× cartes entières224 vCPU · 3840 GB RAM · 40 GB SSD · trafic non décompté🇫🇷 Paris$99338.90

Les prix sont en USD, hors taxes, et se renouvellent au tarif initialement payé. La facturation annuelle offre 10 % de remise sur le même tarif. Il n’y a ni frais d’installation ni durée minimale au-delà de celle que vous choisissez.

Ce que vous achetez

Un serveur Linux avec une carte : la pile de pilotes est à votre charge.

Ces machines sont du stock de fournisseurs revendu. Cela vous donne accès à des cartes que nous ne pourrions pas proposer autrement, mais vous prive des commodités de notre plateforme classique. Les deux aspects sont détaillés ci-dessous.

La carte, exprimée en fraction lorsque c’en est une

Lorsqu’une taille est une fraction d’une carte physique, c’est indiqué (« fraction de 2 GB d’une A16 (carte partagée) »), et lorsqu’il s’agit de cartes entières, leur nombre est précisé. La fraction provient de la définition d’offre du fournisseur, pas de nous. Rien ici n’arrondit une fraction à une carte entière.

Linux standard, sans pile préinstallée

Vous disposez de l’accès root sur l’une des six mêmes images Linux que le reste du catalogue. L’installation des pilotes NVIDIA, de CUDA et de votre framework vous revient, tout comme leurs mises à jour. Il n’y a ni image dédiée au machine learning ni agent de notre part sur la machine.

Pas de sauvegardes gérées sur cette gamme

L’option de sauvegarde nocturne concerne certaines de nos autres gammes, et la plateforme sous-jacente est différente ici. Faites vos propres sauvegardes hors de la machine (restic, borg ou rsync vers un stockage que vous contrôlez), car aucune option de sauvegarde nocturne n’est proposée ici.

Pas de benchmarks, car les nôtres ne seraient pas les vôtres

Le débit dépend de votre modèle, de la taille de lot, de la précision et de la version du framework. Nous publions la carte, la VRAM et la part ; la seule mesure fiable est celle que vous faites sur votre propre charge de travail, et une durée mensuelle est assez courte pour la faire.

Commande

Le stock est confirmé avant l’installation de la machine.

C’est le seul point sur lequel une commande GPU se comporte différemment d’une commande CPU : mieux vaut le lire avant de payer qu’après.

Installé sur commande, pas en une minute
Comptez un jour ouvré. La commande est vérifiée par rapport au stock réel du fournisseur pour cette carte dans cette ville, et la machine est installée une fois la commande confirmée.
Si la carte n’est plus disponible, vous êtes prévenu d’abord
Rien n’est facturé pour une machine que nous ne pouvons pas installer. Nous vous indiquons quelle autre taille ou quel autre site peut être installé à la place, et vous décidez.
La disponibilité dépend de la taille, pas de la gamme
La couverture varie selon la taille : G8-96 est disponible dans 1 ville, G224-3840 dans 1. Le configurateur ne propose que les sites où la taille choisie est en stock, et le panier refuse les autres.
Mensuel ou annuel, au choix pour chaque serveur
L’abonnement annuel offre 10 % de remise sur le même tarif pour un paiement de douze mois d’avance. Les durées prépayées ne sont pas remboursées si vous supprimez le serveur avant terme, c’est pourquoi le mensuel est l’option par défaut.
Autogéré, comme le reste du catalogue
L’accès root, les mises à jour et la pile de pilotes sont à votre charge. Le support répond aux questions sur la machine et le réseau, pas sur votre entraînement.
Les cartes plus puissantes sont sur devis, pas au catalogue
La capacité de type H100, H200 et MI300 évolue d’une semaine à l’autre. Écrivez à [email protected] en précisant la carte, la durée et la région pour savoir ce qui est réellement commandable.

Questions

Les sept questions que l’on nous pose avant chaque commande GPU.

Y compris les deux réponses qui nous font perdre des ventes, ce qui est généralement le signe qu’elles sont vraies.

Le GPU est-il partagé ?
Cela dépend de la taille, et chaque taille l’indique. Les petites tailles sont des fractions d’une carte physique : la colonne « Ce que vous obtenez » affiche la fraction, par exemple une fraction de 2 GB d’une A16, le reste étant utilisé par d’autres clients. Les grandes tailles sont des cartes entières, une ou plusieurs, sans personne d’autre dessus. Nous l’indiquons ainsi car c’est ce qui détermine si une offre vous convient, pas un détail à découvrir après la première facture.
Puis-je obtenir une H100 ?
Oui, là où elle figure au catalogue. Les tailles à carte entière proposées sur cette page actuellement sont G8-96 (1× carte entière de NVIDIA L40S), G24-240 (1× carte entière de NVIDIA H100), G20-160 (1× carte entière de AMD Instinct MI325X), G24-240-720 (1× carte entière de NVIDIA H200), G48-480 (2× cartes entières de NVIDIA H100), G64-768 (8× cartes entières de NVIDIA L40S) et G224-3840 (8× cartes entières de NVIDIA B300 SXM). Chacune n’est proposée que dans les villes où le fournisseur a confirmé la carte, et cela change d’une semaine à l’autre : le tableau fait donc foi, ce n’est pas une promesse. Pour une carte ou une région qui n’y figure pas, écrivez à [email protected] en précisant la carte, la durée et la région, et vous obtiendrez une réponse directe sur ce qui est commandable cette semaine-là.
Pourquoi la mise en service n’est-elle pas instantanée ?
Parce qu’il y a une carte physique au bout de la commande. Une instance CPU provient d’un pool pratiquement toujours disponible ; un GPU est une ressource rare que notre fournisseur a peut-être vendue à quelqu’un d’autre ce matin. Nous vérifions donc la carte par rapport au stock réel avant l’installation de la machine plutôt qu’après : comptez un jour ouvré. Si la carte n’est plus disponible, vous en êtes informé avant tout débit, et nous vous indiquons quelles autres tailles ou quels autres sites peuvent être installés à la place.
Facturez-vous à l’heure ?
Non. Les commandes en ligne sont mensuelles ou annuelles, et l’annuel offre 10 % de remise sur le même tarif. Le chiffre horaire affiché à côté de chaque prix est le prix mensuel réparti sur un mois de 730 heures : c’est le chiffre utile pour nous comparer à un fournisseur facturé à l’usage, pas un tarif que nous appliquons. Sur les GPU, la distinction compte davantage que sur les offres CPU : si votre tâche tourne six heures par semaine, un fournisseur facturé à l’usage vous coûtera moins cher que n’importe quelle offre mensuelle, la nôtre comprise, et nous préférons l’écrire ici que vous laisser le découvrir plus tard.
Par quelle taille commencer ?
G8-96 pour la plupart des usages : 1× carte entière avec 48 GB de VRAM à $2433.90 par mois. Huit gigaoctets de VRAM, c’est le seuil à partir duquel un modèle de 7 milliards de paramètres en 8 bits tient avec de la marge pour le contexte, et où SDXL tourne sans manquer de mémoire. Ne descendez en dessous que si vous voulez une machine CUDA pour développer ; montez au-dessus quand vous butez sur une limite précise : un modèle qui ne tient pas, ou une file d’attente longue parce que la carte est partagée. Dans les deux cas, vous le verrez tout de suite.
Qu’est-ce qui est installé sur la machine ?
Une image Linux standard, rien de plus. Les pilotes NVIDIA, CUDA, cuDNN et le framework que vous utilisez sont à installer par vos soins, dans les mêmes conditions d’autogestion que tous nos autres serveurs. Nous ne fournissons pas d’image préconfigurée pour l’apprentissage automatique, et nous préférons le dire sur cette page plutôt que vous laisser découvrir un répertoire de pilotes vide à 2 h du matin.
Publiez-vous des benchmarks ?
Non, et nous n’en avons pas l’intention. Le débit d’un GPU dépend de votre modèle, de la taille de lot, de la précision et de la version du framework : tout chiffre que nous publierions proviendrait d’une charge de travail qui n’est pas la vôtre. La spécification, c’est la carte, la VRAM et la part de la carte que vous obtenez ; ce sont des faits. Ce que vous en faites ne se mesure que sur votre propre charge de travail, et la durée mensuelle est assez courte pour le mesurer.

Poursuivre la lecture

Pour aller plus loin.

Pas sûr qu’un GPU soit la solution

Deux options moins chères à examiner d’abord.