Soluções · Modelos locais
VPS para Ollama
O Ollama disponibiliza modelos abertos por uma API local, e a única regra rígida é que o modelo precisa caber na memória: um modelo de 8 bilhões de parâmetros é um download de 4.9 GB, um de 70B tem 42.5 GB. Em uma CPU, ele responde a alguns tokens por segundo, o que basta para um assistente privado, tarefas em lote e embeddings, mas não para um produto de chat. BD-8 por $12.90 executa os modelos 8B; BD-64 por $84.90 executa os de 70B.
Do que ele precisa
Software segundo a documentação, tamanhos identificados pela fonte
O software e as práticas de segurança vêm da documentação do próprio projeto. Quando o projeto não publica requisitos de hardware, os tamanhos indicam de quem são.
Segundo docs.ollama.com e o registro
- Instalação:
curl -fsSL https://ollama.com/install.sh | sh; cria o usuárioollamae um serviço systemd. - Por padrão, escuta em
127.0.0.1:11434;OLLAMA_HOST=0.0.0.0o expõe, e o próprio Ollama não tem autenticação, então coloque antes um proxy com autenticação na frente. - Os modelos ficam em
/usr/share/ollama/.ollama/models; tamanhos segundo o registro: llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB. - Uma GPU é opcional: sem ela, o modelo roda na CPU e na RAM, devagar; com ela, roda na VRAM, rápido.
Tamanhos (nossos: o modelo precisa caber na RAM com folga)
| Carga de trabalho | vCPU | RAM |
|---|---|---|
| Modelos 4B–8B (gemma3:4b 3.3 GB, llama3.1:8b 4.9 GB)Assistentes, resumos, embeddings. Alguns tokens por segundo na CPU. | 4 | 8 GB |
| Modelos 12B–14B (gemma3:12b 8.1 GB, qwen3:14b 9.3 GB)Respostas visivelmente melhores, visivelmente mais lentas. | 6 | 16 GB |
| Modelos 27B–32B (gemma3:27b 17.4 GB, qwen3:32b 20.2 GB)Utilizável para trabalho em lote, não para um usuário esperando. | 8 | 32 GB |
| Modelos 70B (llama3.3:70b 42.5 GB)Cabe. Lento. Para uso interativo, a resposta honesta é um servidor com GPU. | 16 | 64 GB |
Os planos adequados
4 máquinas, com preços em tempo real
Ordenados por memória, que é o que define o modelo. Preços atuais, por mês, lidos do catálogo.
- BD-8$12.90/mês
4 vCPU · 8 GB · 100 GB de disco · 32 TB
8 GB: os modelos 8B. 4 vCPU, 8 GB, 100 GB para downloads. Executa llama3.1:8b, qwen3:8b, gemma3:4b. Você mesmo cola o instalador de uma linha.
- U6-16-120$47.90/mês
6 vCPU · 16 GB · 120 GB de disco · Unmetered
16 GB: os modelos 14B, Unmetered, Istambul. 6 vCPU e 16 GB executam qwen3:14b e gemma3:12b; tráfego não medido para baixar modelos à vontade.
- BD-64$84.90/mês
16 vCPU · 64 GB · 500 GB de disco · 32 TB
64 GB: até 70B, 16 núcleos. A máquina mais barata desta página em que llama3.3:70b ou qwen3:32b cabem na memória. Espere um ou dois tokens por segundo nos grandes.
- C4-8-160$75.90/mês
4 vCPU · 8 GB · 160 GB de disco · 3 TB
8 GB, entregue com o Ollama instalado. O preset instala o serviço em um fornecedor que executa scripts de inicialização; 160 GB de disco para uma biblioteca de modelos.
“Implantar instalado” abre o configurador com o nosso script de inicialização do Ollama na caixa de inicialização, completo, antes de você comprar. Ele instala o serviço e não baixa nada; você escolhe o modelo. Nas outras linhas, a instalação é uma linha colada.
A instalação
Quatro etapas
Instale, baixe um modelo que caiba, converse com ele, mantenha-o privado.
- Instale.
curl -fsSL https://ollama.com/install.sh | shO serviço inicia em 127.0.0.1:11434 e persiste após reinicializações. - Baixe um modelo que caiba nesta máquina.
ollama pull llama3.1:8bcom 8 GB;qwen3:14bcom 16 GB;gemma3:27bouqwen3:32bcom 32 GB;llama3.3:70bcom 64 GB. - Use.
ollama run llama3.1:8b, ou a API:curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'. Do seu laptop,ssh -N -L 11434:127.0.0.1:11434 root@your-server. - Só depois exponha, com autenticação.
systemctl edit ollama.servicecomEnvironment="OLLAMA_HOST=0.0.0.0:11434"o torna acessível; um proxy reverso com senha ou chave de API na frente não é opcional, porque o Ollama não tem nenhuma.
Com franqueza
O que nós realmente compraríamos
Escolha pelo modelo que você realmente vai executar e saiba como é a inferência em CPU antes de comprar.
Para os modelos 8B
BD-8 · $12.90/mês
4 vCPU e 8 GB por $12.90 executam llama3.1:8b ou qwen3:8b com folga, a alguns tokens por segundo: ideal para um assistente privado que só você usa, resumos noturnos ou embeddings para um índice de pesquisa. Se você quer respostas de classe 27B, BD-64 por $84.90 comporta esses e também os modelos 70B, devagar. Se pessoas vão esperar as respostas, pare de ler esta página e veja a linha GPU.
Perguntas