Saltar al contenido

Soluciones · Modelos locales

Un VPS para Ollama

Ollama sirve modelos abiertos a través de una API local, y la única regla estricta es que el modelo debe caber en memoria: un modelo de 8.000 millones de parámetros es una descarga de 4.9 GB, uno de 70B ocupa 42.5 GB. En CPU responde a unos pocos tokens por segundo, lo que basta para un asistente privado, tareas por lotes y embeddings, y no basta para un producto de chat. BD-8 a $12.90 ejecuta los modelos 8B; BD-64 a $84.90 ejecuta los de 70B.

Implementar BD-8Implementar C4-8-160 con Ollama instalado

Lo que necesita

Software según la documentación, tamaños etiquetados por fuente

El software y la configuración de seguridad provienen de la documentación oficial del proyecto. Cuando el proyecto no publica requisitos de hardware, los tamaños indican de quién son.

De docs.ollama.com y el registro

  • Instalar: curl -fsSL https://ollama.com/install.sh | sh; crea el usuario ollama y un servicio systemd.
  • Escucha en 127.0.0.1:11434 por defecto; OLLAMA_HOST=0.0.0.0 lo expone, y Ollama no tiene autenticación propia, así que ponga antes un proxy con autenticación delante.
  • Los modelos se guardan en /usr/share/ollama/.ollama/models; tamaños según el registro: llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB.
  • Una GPU es opcional: sin ella, el modelo se ejecuta en CPU y RAM, despacio; con ella, se ejecuta desde la VRAM, rápido.

Tamaños (nuestros: el modelo debe caber en la RAM con margen)

Dimensionamiento por carga de trabajo
Carga de trabajovCPURAM
Modelos de 4B–8B (gemma3:4b 3.3 GB, llama3.1:8b 4.9 GB)Asistentes, resúmenes, embeddings. Unos pocos tokens por segundo en CPU.48 GB
Modelos de 12B–14B (gemma3:12b 8.1 GB, qwen3:14b 9.3 GB)Respuestas notablemente mejores, notablemente más lentas.616 GB
Modelos de 27B–32B (gemma3:27b 17.4 GB, qwen3:32b 20.2 GB)Utilizable para trabajo por lotes, no para un usuario que espera.832 GB
Modelos de 70B (llama3.3:70b 42.5 GB)Cabe. Lento. Para uso interactivo, la respuesta honesta es un servidor con GPU.1664 GB

Los planes adecuados

4 máquinas, con precio en tiempo real

Ordenados por memoria, que es lo que decide el modelo. Precios actuales, por mes, leídos del catálogo.

  • BD-8$12.90/mes

    4 vCPU · 8 GB · 100 GB de disco · 32 TB

    8 GB: los modelos 8B. 4 vCPU, 8 GB, 100 GB para descargas. Ejecuta llama3.1:8b, qwen3:8b, gemma3:4b. Pegue usted mismo el instalador de una línea.

    Implementar
  • U6-16-120$47.90/mes

    6 vCPU · 16 GB · 120 GB de disco · Unmetered

    16 GB: los modelos 14B, unmetered, Estambul. 6 vCPU y 16 GB ejecutan qwen3:14b y gemma3:12b; tráfico unmetered para descargar modelos sin preocuparse.

    Implementar
  • BD-64$84.90/mes

    16 vCPU · 64 GB · 500 GB de disco · 32 TB

    64 GB: hasta 70B, 16 núcleos. La máquina más barata de esta página en cuya memoria caben llama3.3:70b o qwen3:32b. Cuente con un par de tokens por segundo en los grandes.

    Implementar
  • C4-8-160$75.90/mes

    4 vCPU · 8 GB · 160 GB de disco · 3 TB

    8 GB, llega con Ollama instalado. El preset instala el servicio en un proveedor que ejecuta scripts de inicio; 160 GB de disco para una biblioteca de modelos.

    Implementar con instalación

“Implementar instalado” abre el configurador con nuestro script de inicio de Ollama en el cuadro de inicio, completo, antes de comprar. Instala el servicio y no descarga nada; usted elige el modelo. En las demás filas, la instalación es una línea pegada.

La instalación

Cuatro pasos

Instale, descargue un modelo que quepa, hable con él y manténgalo privado.

  1. Instalar. curl -fsSL https://ollama.com/install.sh | sh El servicio arranca en 127.0.0.1:11434 y sobrevive a los reinicios.
  2. Descargue un modelo que quepa en esta máquina. ollama pull llama3.1:8b con 8 GB; qwen3:14b con 16 GB; gemma3:27b o qwen3:32b con 32 GB; llama3.3:70b con 64 GB.
  3. Úselo. ollama run llama3.1:8b, o la API: curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'. Desde su portátil, ssh -N -L 11434:127.0.0.1:11434 root@your-server.
  4. Solo entonces expóngalo, tras autenticación. systemctl edit ollama.service con Environment="OLLAMA_HOST=0.0.0.0:11434" lo hace accesible; un proxy inverso con contraseña o clave de API delante no es opcional, porque Ollama no tiene ninguna.

Con franqueza

Lo que realmente compraríamos

Compre para el modelo que realmente va a ejecutar, y sepa cómo se siente la inferencia en CPU antes de hacerlo.

Para los modelos 8B

BD-8 · $12.90/mes

4 vCPU y 8 GB a $12.90 ejecutan llama3.1:8b o qwen3:8b con margen, a unos pocos tokens por segundo: adecuado para un asistente privado con el que habla usted mismo, resúmenes nocturnos o embeddings para un índice de búsqueda. Si quiere respuestas de clase 27B, BD-64 a $84.90 las admite, y también los modelos de 70B, despacio. Si hay personas esperando las respuestas, deje de leer esta página y consulte la línea GPU.

Implementar BD-8BD-64 para los modelos grandes

Preguntas

Lo que se pregunta antes de contratar uno.

¿Cuánta RAM necesita Ollama?
Tanta como el modelo más un pequeño margen: el archivo del modelo se carga en memoria. El registro de Ollama indica llama3.1:8b con 4.9 GB, qwen3:14b con 9.3 GB, gemma3:27b con 17.4 GB, qwen3:32b con 20.2 GB y llama3.3:70b con 42.5 GB, así que los niveles son 8, 16, 32 y 64 GB. El sistema operativo y el propio Ollama necesitan uno o dos gigabytes más. Un modelo que no cabe o no se carga o recurre al swap, que es peor.
¿Qué velocidad tiene en un VPS con CPU?
Lento, y lo decimos con franqueza: unos pocos tokens por segundo para un modelo 8B en cuatro núcleos, menos para los más grandes. Eso sirve para tareas que se ejecutan sin supervisión y para una persona chateando, y no sirve para un producto con usuarios esperando. Más núcleos ayudan un poco; el ancho de banda de memoria es el límite real. Para velocidad interactiva necesita una GPU, que es otra página.
¿Necesito una GPU?
No para ejecutar Ollama. La necesita para ejecutarlo rápido. Todo lo de esta página es inferencia en CPU; la línea GPU tiene tarjetas desde una sola L4 en adelante, y un modelo de 7B que se arrastra en CPU responde al instante allí. Decida según quién espera la respuesta.
¿Qué hace el preajuste de inicio?
Ejecuta el instalador oficial de Ollama, que crea el usuario ollama y un servicio systemd vinculado a 127.0.0.1:11434, lo habilita y no abre nada salvo SSH en el firewall. No descarga ningún modelo (esa elección depende de la máquina que haya comprado) y deja /root/OLLAMA-NEXT-STEPS.txt con los comandos de descarga por nivel de RAM, el comando del túnel y la advertencia sobre exponer la API.
¿Pueden usarlo otras máquinas?
Sí, una vez que configure OLLAMA_HOST=0.0.0.0:11434 mediante systemctl edit ollama.service y abra el puerto. No lo haga sin un proxy inverso que exija una clave o una contraseña: Ollama no tiene autenticación propia, y un Ollama abierto es una donación gratuita de cómputo sin GPU a internet. Con túneles SSH o una VPN, nada de esto es necesario.
¿Dónde se guardan los modelos y cuánto ocupan?
/usr/share/ollama/.ollama/models por defecto, modificable con OLLAMA_MODELS (el usuario ollama debe ser propietario del directorio). Una biblioteca modesta (un 8B, un 14B y un 32B) ocupa unos 35 GB, por eso todas las filas de esta página tienen 100 GB o más.

Siga leyendo

Relacionado