Pular para o conteúdo

Soluções · Modelos locais

VPS para Ollama

O Ollama disponibiliza modelos abertos por uma API local, e a única regra rígida é que o modelo precisa caber na memória: um modelo de 8 bilhões de parâmetros é um download de 4.9 GB, um de 70B tem 42.5 GB. Em uma CPU, ele responde a alguns tokens por segundo, o que basta para um assistente privado, tarefas em lote e embeddings, mas não para um produto de chat. BD-8 por $12.90 executa os modelos 8B; BD-64 por $84.90 executa os de 70B.

Do que ele precisa

Software segundo a documentação, tamanhos identificados pela fonte

O software e as práticas de segurança vêm da documentação do próprio projeto. Quando o projeto não publica requisitos de hardware, os tamanhos indicam de quem são.

Segundo docs.ollama.com e o registro

  • Instalação: curl -fsSL https://ollama.com/install.sh | sh; cria o usuário ollama e um serviço systemd.
  • Por padrão, escuta em 127.0.0.1:11434; OLLAMA_HOST=0.0.0.0 o expõe, e o próprio Ollama não tem autenticação, então coloque antes um proxy com autenticação na frente.
  • Os modelos ficam em /usr/share/ollama/.ollama/models; tamanhos segundo o registro: llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB.
  • Uma GPU é opcional: sem ela, o modelo roda na CPU e na RAM, devagar; com ela, roda na VRAM, rápido.

Tamanhos (nossos: o modelo precisa caber na RAM com folga)

Dimensionamento por carga de trabalho
Carga de trabalhovCPURAM
Modelos 4B–8B (gemma3:4b 3.3 GB, llama3.1:8b 4.9 GB)Assistentes, resumos, embeddings. Alguns tokens por segundo na CPU.48 GB
Modelos 12B–14B (gemma3:12b 8.1 GB, qwen3:14b 9.3 GB)Respostas visivelmente melhores, visivelmente mais lentas.616 GB
Modelos 27B–32B (gemma3:27b 17.4 GB, qwen3:32b 20.2 GB)Utilizável para trabalho em lote, não para um usuário esperando.832 GB
Modelos 70B (llama3.3:70b 42.5 GB)Cabe. Lento. Para uso interativo, a resposta honesta é um servidor com GPU.1664 GB

Os planos adequados

4 máquinas, com preços em tempo real

Ordenados por memória, que é o que define o modelo. Preços atuais, por mês, lidos do catálogo.

  • BD-8$12.90/mês

    4 vCPU · 8 GB · 100 GB de disco · 32 TB

    8 GB: os modelos 8B. 4 vCPU, 8 GB, 100 GB para downloads. Executa llama3.1:8b, qwen3:8b, gemma3:4b. Você mesmo cola o instalador de uma linha.

  • U6-16-120$47.90/mês

    6 vCPU · 16 GB · 120 GB de disco · Unmetered

    16 GB: os modelos 14B, Unmetered, Istambul. 6 vCPU e 16 GB executam qwen3:14b e gemma3:12b; tráfego não medido para baixar modelos à vontade.

  • BD-64$84.90/mês

    16 vCPU · 64 GB · 500 GB de disco · 32 TB

    64 GB: até 70B, 16 núcleos. A máquina mais barata desta página em que llama3.3:70b ou qwen3:32b cabem na memória. Espere um ou dois tokens por segundo nos grandes.

  • C4-8-160$75.90/mês

    4 vCPU · 8 GB · 160 GB de disco · 3 TB

    8 GB, entregue com o Ollama instalado. O preset instala o serviço em um fornecedor que executa scripts de inicialização; 160 GB de disco para uma biblioteca de modelos.

“Implantar instalado” abre o configurador com o nosso script de inicialização do Ollama na caixa de inicialização, completo, antes de você comprar. Ele instala o serviço e não baixa nada; você escolhe o modelo. Nas outras linhas, a instalação é uma linha colada.

A instalação

Quatro etapas

Instale, baixe um modelo que caiba, converse com ele, mantenha-o privado.

  1. Instale. curl -fsSL https://ollama.com/install.sh | sh O serviço inicia em 127.0.0.1:11434 e persiste após reinicializações.
  2. Baixe um modelo que caiba nesta máquina. ollama pull llama3.1:8b com 8 GB; qwen3:14b com 16 GB; gemma3:27b ou qwen3:32b com 32 GB; llama3.3:70b com 64 GB.
  3. Use. ollama run llama3.1:8b, ou a API: curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'. Do seu laptop, ssh -N -L 11434:127.0.0.1:11434 root@your-server.
  4. Só depois exponha, com autenticação. systemctl edit ollama.service com Environment="OLLAMA_HOST=0.0.0.0:11434" o torna acessível; um proxy reverso com senha ou chave de API na frente não é opcional, porque o Ollama não tem nenhuma.

Com franqueza

O que nós realmente compraríamos

Escolha pelo modelo que você realmente vai executar e saiba como é a inferência em CPU antes de comprar.

Para os modelos 8B

BD-8 · $12.90/mês

4 vCPU e 8 GB por $12.90 executam llama3.1:8b ou qwen3:8b com folga, a alguns tokens por segundo: ideal para um assistente privado que só você usa, resumos noturnos ou embeddings para um índice de pesquisa. Se você quer respostas de classe 27B, BD-64 por $84.90 comporta esses e também os modelos 70B, devagar. Se pessoas vão esperar as respostas, pare de ler esta página e veja a linha GPU.

Perguntas

O que as pessoas perguntam antes de comprar.

Quanta RAM o Ollama precisa?
O tamanho do modelo mais uma pequena folga: o arquivo do modelo é carregado na memória. O registro do Ollama lista llama3.1:8b com 4.9 GB, qwen3:14b com 9.3 GB, gemma3:27b com 17.4 GB, qwen3:32b com 20.2 GB e llama3.3:70b com 42.5 GB, por isso os níveis são 8, 16, 32 e 64 GB. O sistema operacional e o próprio Ollama precisam de mais um ou dois gigabytes. Um modelo que não cabe ou falha ao carregar ou usa swap, o que é pior.
Qual é a velocidade em um VPS com CPU?
Lento, e com franqueza: alguns tokens por segundo para um modelo 8B em quatro núcleos, menos para os maiores. Isso serve para tarefas sem supervisão e para uma pessoa conversando, mas não para um produto com usuários esperando. Mais núcleos ajudam um pouco; a largura de banda da memória é o verdadeiro limite. Para velocidade interativa, você precisa de uma GPU, que é assunto de outra página.
Preciso de uma GPU?
Não para executar o Ollama. Você precisa de uma para executá-lo rápido. Tudo nesta página é inferência em CPU; a linha GPU tem placas a partir de uma única L4, e um modelo 7B que se arrasta na CPU responde instantaneamente lá. Decida por quem está esperando a resposta.
O que o preset de inicialização faz?
Ele executa o instalador oficial do Ollama, que cria o usuário ollama e um serviço systemd vinculado a 127.0.0.1:11434, ativa-o e não abre nada além do SSH no firewall. Não baixa nenhum modelo (essa escolha depende da máquina que você comprou) e deixa /root/OLLAMA-NEXT-STEPS.txt com os comandos pull por nível de RAM, o comando do túnel e o aviso sobre expor a API.
Outras máquinas podem usá-lo?
Sim, depois que você definir OLLAMA_HOST=0.0.0.0:11434 via systemctl edit ollama.service e abrir a porta. Não faça isso sem um proxy reverso que exija chave ou senha: o Ollama não tem autenticação própria, e um Ollama aberto é uma doação gratuita de computação sem GPU para a internet. Com túneis SSH ou uma VPN, nada disso é necessário.
Onde ficam os modelos e qual o tamanho deles?
/usr/share/ollama/.ollama/models por padrão, alterável com OLLAMA_MODELS (o usuário ollama deve ser o dono do diretório). Uma biblioteca modesta (um 8B, um 14B e um 32B) ocupa cerca de 35 GB, por isso todas as linhas desta página têm 100 GB ou mais.