Aller au contenu

Solutions · Modèles locaux

Un VPS pour Ollama

Ollama sert des modèles ouverts via une API locale, et la seule règle stricte est que le modèle doit tenir en mémoire : un modèle de 8 milliards de paramètres représente un téléchargement de 4.9 GB, un 70B en fait 42.5 GB. Sur CPU, il répond à quelques tokens par seconde, ce qui suffit pour un assistant privé, des traitements par lots et des embeddings, mais pas pour un produit de chat. BD-8 à $12.90 fait tourner les modèles 8B ; BD-64 à $84.90 fait tourner les 70B.

Déployer BD-8Déployer C4-8-160 avec Ollama installé

Ce qu’il lui faut

Logiciels issus de la documentation, tailles indiquées avec leur source

Les logiciels et la configuration de sécurité proviennent de la documentation du projet lui-même. Lorsque le projet ne publie aucun chiffre matériel, les tailles indiquent de qui elles viennent.

D’après docs.ollama.com et le registre

  • Installation : curl -fsSL https://ollama.com/install.sh | sh (crée l’utilisateur ollama et un service systemd).
  • Il écoute par défaut sur 127.0.0.1:11434 ; OLLAMA_HOST=0.0.0.0 l’expose, et Ollama n’a lui-même aucune authentification : placez d’abord devant un proxy avec authentification.
  • Les modèles sont stockés dans /usr/share/ollama/.ollama/models ; tailles d’après le registre : llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB.
  • Un GPU est facultatif : sans GPU, le modèle tourne sur le CPU et la RAM, lentement ; avec, il tourne depuis la VRAM, rapidement.

Tailles (les nôtres : le modèle doit tenir en RAM avec une marge)

Dimensionnement par usage
Charge de travailvCPURAM
Modèles 4B–8B (gemma3:4b 3.3 GB, llama3.1:8b 4.9 GB)Assistants, résumés, embeddings. Quelques tokens par seconde sur CPU.48 GB
Modèles 12B–14B (gemma3:12b 8.1 GB, qwen3:14b 9.3 GB)Des réponses nettement meilleures, nettement plus lentes.616 GB
Modèles 27B–32B (gemma3:27b 17.4 GB, qwen3:32b 20.2 GB)Utilisable pour des traitements par lots, pas pour un utilisateur qui attend.832 GB
Modèles 70B (llama3.3:70b 42.5 GB)Ça tient. C’est lent. Pour un usage interactif, la réponse honnête est un serveur GPU.1664 GB

Les offres adaptées

4 machines, prix en temps réel

Classées par mémoire, ce qui détermine le modèle. Prix du jour, par mois, issus du catalogue.

  • BD-8$12.90/mois

    4 vCPU · 8 GB · 100 GB de disque · 32 TB

    8 GB : les modèles 8B. 4 vCPU, 8 GB, 100 GB pour les téléchargements. Fait tourner llama3.1:8b, qwen3:8b, gemma3:4b. Collez vous-même l’installateur en une ligne.

    Déployer
  • U6-16-120$47.90/mois

    6 vCPU · 16 GB · 120 GB de disque · Unmetered

    16 GB : les modèles 14B, Unmetered, Istanbul. 6 vCPU et 16 GB font tourner qwen3:14b et gemma3:12b ; trafic non compté pour télécharger des modèles librement.

    Déployer
  • BD-64$84.90/mois

    16 vCPU · 64 GB · 500 GB de disque · 32 TB

    64 GB : jusqu’à 70B, 16 cœurs. La machine la moins chère de cette page qui fait tenir llama3.3:70b ou qwen3:32b en mémoire. Comptez quelques tokens par seconde sur les grands modèles.

    Déployer
  • C4-8-160$75.90/mois

    4 vCPU · 8 GB · 160 GB de disque · 3 TB

    8 GB, livré avec Ollama installé. Le preset installe le service chez un fournisseur qui exécute les scripts de démarrage ; 160 GB de disque pour une bibliothèque de modèles.

    Déployer installé

« Déployer installé » ouvre le configurateur avec notre script de démarrage Ollama dans le champ prévu, en entier, avant d’acheter. Il installe le service et ne télécharge rien ; vous choisissez le modèle. Sur les autres lignes, l’installation tient en une ligne à coller.

L’installation

Quatre étapes

Installer, télécharger un modèle adapté, lui parler, le garder privé.

  1. Installer. curl -fsSL https://ollama.com/install.sh | sh Le service démarre sur 127.0.0.1:11434 et survit aux redémarrages.
  2. Télécharger un modèle adapté à cette machine. ollama pull llama3.1:8b sur 8 GB ; qwen3:14b sur 16 GB ; gemma3:27b ou qwen3:32b sur 32 GB ; llama3.3:70b sur 64 GB.
  3. L’utiliser. ollama run llama3.1:8b, ou l’API : curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'. Depuis votre ordinateur portable, ssh -N -L 11434:127.0.0.1:11434 root@your-server.
  4. Ensuite seulement, l’exposer, derrière une authentification. systemctl edit ollama.service avec Environment="OLLAMA_HOST=0.0.0.0:11434" le rend accessible ; un reverse proxy avec mot de passe ou clé API devant n’est pas facultatif, car Ollama n’en a aucun.

En toute franchise

Ce que nous achèterions vraiment

Choisissez pour le modèle que vous ferez réellement tourner, et sachez ce que donne l’inférence sur CPU avant d’acheter.

Pour les modèles 8B

BD-8 · $12.90/mois

4 vCPU et 8 GB à $12.90 font tourner llama3.1:8b ou qwen3:8b avec de la marge, à quelques tokens par seconde : adapté à un assistant privé que vous utilisez vous-même, à des résumés nocturnes ou à des embeddings pour un index de recherche. Si vous voulez des réponses de classe 27B, BD-64 à $84.90 les fait tenir, ainsi que les modèles 70B, lentement. Si des personnes attendront les réponses, arrêtez de lire cette page et regardez la gamme GPU.

Déployer BD-8BD-64 pour les grands modèles

Questions

Les questions posées avant l’achat.

De combien de RAM Ollama a-t-il besoin ?
Autant que le modèle, plus une petite marge : le fichier du modèle est chargé en mémoire. Le registre d’Ollama indique llama3.1:8b à 4.9 GB, qwen3:14b à 9.3 GB, gemma3:27b à 17.4 GB, qwen3:32b à 20.2 GB et llama3.3:70b à 42.5 GB, d’où les niveaux de 8, 16, 32 et 64 GB. Le système d’exploitation et Ollama lui-même demandent un ou deux gigaoctets de plus. Un modèle qui ne tient pas soit ne se charge pas, soit utilise le swap, ce qui est pire.
Quelle est sa vitesse sur un VPS CPU ?
Lent, et en toute franchise : quelques tokens par seconde pour un modèle 8B sur quatre cœurs, moins pour les plus grands. Cela convient aux tâches qui tournent sans surveillance et à une personne qui discute, pas à un produit dont les utilisateurs attendent. Plus de cœurs aident un peu ; la bande passante mémoire est la vraie limite. Pour une vitesse interactive, il vous faut un GPU, ce qui est une autre page.
Ai-je besoin d’un GPU ?
Pas pour faire tourner Ollama. Il en faut un pour le faire tourner vite. Tout ce qui figure sur cette page relève de l’inférence sur CPU ; la gamme GPU propose des cartes à partir d’une seule L4, et un modèle 7B qui se traîne sur CPU y répond instantanément. Décidez en fonction de qui attend la réponse.
Que fait le préréglage de démarrage ?
Il exécute l’installateur officiel d’Ollama, qui crée l’utilisateur ollama et un service systemd lié à 127.0.0.1:11434, l’active, et n’ouvre que SSH sur le pare-feu. Il ne télécharge aucun modèle (ce choix dépend de la machine achetée) et laisse /root/OLLAMA-NEXT-STEPS.txt avec les commandes pull par niveau de RAM, la commande de tunnel et l’avertissement sur l’exposition de l’API.
D’autres machines peuvent-elles l’utiliser ?
Oui, une fois que vous avez défini OLLAMA_HOST=0.0.0.0:11434 via systemctl edit ollama.service et ouvert le port. Ne le faites pas sans un reverse proxy exigeant une clé ou un mot de passe : Ollama n’a pas d’authentification propre, et un Ollama ouvert est un don gratuit de puissance de calcul (sans GPU) à tout Internet. Via des tunnels SSH ou un VPN, rien de tout cela n’est nécessaire.
Où sont stockés les modèles, et quelle taille atteignent-ils ?
/usr/share/ollama/.ollama/models par défaut, modifiable avec OLLAMA_MODELS (l’utilisateur ollama doit être propriétaire du répertoire). Une bibliothèque modeste (un 8B, un 14B et un 32B) pèse environ 35 GB, c’est pourquoi chaque ligne de cette page a 100 GB ou plus.

Poursuivre la lecture

Voir aussi