Pular para o conteúdo

Soluções · Chat multimodelo

VPS para LibreChat

LibreChat é a interface de chat de código aberto para vários modelos ao mesmo tempo: OpenAI, Anthropic, Google e modelos locais por meio de um endpoint compatível com OpenAI, com agentes, busca em arquivos e contas para uma equipe inteira. A documentação não publica nenhum número de RAM ou CPU, e o arquivo Docker Compose oficial inicia seis contêineres, então dimensionamos a partir disso. BD-8 por $12.90 por mês é a máquina mais barata com folga real; C2-4-80 por $37.90 é o formato menor para um usuário ou um grupo pequeno.

Implantar BD-8Comparar todos os planos

Do que ele precisa

Software segundo a documentação, tamanhos identificados pela fonte

O software e as práticas de segurança vêm da documentação do próprio projeto. Quando o projeto não publica requisitos de hardware, os tamanhos indicam de quem são.

Da documentação do LibreChat e do seu arquivo compose

  • Git e Docker, no Linux. O guia de Docker em librechat.ai não lista mais nada e não informa requisitos de RAM, CPU ou disco.
  • Instalação: clone o repositório e depois cp .env.example .env && docker compose up -d. O app responde na porta 3080; um segundo contêiner, o painel de administração, responde na porta 3000.
  • O arquivo compose oficial inicia seis contêineres: o app LibreChat, seu painel de administração, MongoDB para conversas e contas, Meilisearch para busca nas conversas, um banco de dados pgvector e a API de RAG para busca em arquivos.
  • Modelos são chaves, não hardware. As chaves da OpenAI, Anthropic e Google vão no .env, ou cada usuário informa a sua na interface. Um modelo local é um endpoint separado do Ollama ou outro compatível com OpenAI, que você adiciona no librechat.yaml, então esta máquina não precisa de GPU.

Tamanhos (nossos, a partir dos seis contêineres que o arquivo compose inicia)

Dimensionamento por carga de trabalho
Carga de trabalhovCPURAM
Um usuário ou um grupo pequeno, poucos chats, sem busca intensa em arquivosNossa. Seis contêineres ocupam memória própria mesmo ociosos; este é o mínimo em que os rodaríamos.24 GB
Uma equipe, busca em arquivos ativada, índice de busca crescendoNossa. MongoDB, Meilisearch e o banco de dados vetorial precisam de folga, e gerar embeddings dos uploads é trabalho de CPU.48 GB
Muitos usuários, grandes conjuntos de documentos, conversas mantidas por anosNossa. O armazenamento de conversas, o índice de busca e os vetores crescem com o uso.816 GB

Os planos adequados

5 máquinas, com preços em tempo real

Máquina adequada mais barata primeiro. Preços de hoje, por mês, lidos do catálogo.

  • BD-8$12.90/mês

    4 vCPU · 8 GB · 100 GB de disco · 32 TB

    O mais barato com espaço para toda a stack. Folgado para uma equipe: os seis contêineres, uploads e o índice de busca, com memória de sobra.

    Implantar
  • BD-12$17.90/mês

    6 vCPU · 12 GB · 200 GB de disco · 32 TB

    Mais disco para uploads e vetores. Para uma biblioteca real de documentos por trás da busca em arquivos e anos de conversas salvas.

    Implantar
  • BD-24$31.90/mês

    8 vCPU · 24 GB · 300 GB de disco · 32 TB

    Uma equipe grande ou vários usuários intensivos. Bastante memória para MongoDB, Meilisearch e o banco de dados vetorial crescerem.

    Implantar
  • C2-4-80$37.90/mês

    2 vCPU · 4 GB · 80 GB de disco · 3 TB

    O formato menor, para um ou poucos usuários. Roda a stack; não rode também um modelo local nem builds nela. Escolha pela cidade, não pelo tamanho.

    Implantar
  • C4-8-160$75.90/mês

    4 vCPU · 8 GB · 160 GB de disco · 3 TB

    O tamanho confortável quando as cidades da linha mais barata não atendem você. O mesmo formato da linha mais barata, para uma equipe que precisa de outra cidade.

    Implantar

Ainda não há predefinição de inicialização para o LibreChat: a instalação são os passos abaixo, digitados por você. São os comandos da própria documentação do LibreChat, mais os segredos que o arquivo compose pede.

A instalação

Quatro passos, da documentação do LibreChat

Docker, a stack do compose, a primeira conta e depois seus modelos. Registre sua própria conta assim que a stack estiver no ar: a primeira conta criada se torna a de administrador.

  1. Docker. curl -fsSL https://get.docker.com | sh Depois verifique se docker compose version responde.
  2. Clone e configure. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env No .env, defina MEILI_MASTER_KEY (pelo menos 16 caracteres) e ADMIN_PANEL_SESSION_SECRET, sem o qual o painel de administração não inicia. Se os contêineres relatarem erros de permissão, defina UID e GID como o usuário que executa o compose.
  3. Inicie e registre-se primeiro. docker compose up -d docker compose ps deve mostrar os seis contêineres ativos. Abra http://your-ip:3080 e clique em Register: não há usuário padrão. Até haver HTTPS na frente, mantenha as portas 3080 e 3000 atrás do firewall e acesse o app via SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. Adicione modelos e depois um domínio. Coloque OPENAI_API_KEY, ANTHROPIC_API_KEY e GOOGLE_KEY no .env, ou deixe-os como user_provided para que cada usuário informe a própria chave. Para um modelo local, adicione um endpoint do Ollama no librechat.yaml; de dentro do contêiner, o endereço é host.docker.internal, não localhost. Para HTTPS, aponte um registro A para o servidor, coloque um proxy reverso na frente e defina DOMAIN_CLIENT e DOMAIN_SERVER no .env com o endereço público. Depois que sua equipe tiver se registrado, defina ALLOW_REGISTRATION como false.

Com franqueza

O que nós realmente compraríamos

O LibreChat não informa mínimo e inicia seis contêineres. Contrate a máquina de 8 GB.

Para o LibreChat e uma equipe

BD-8 · $12.90/mês

4 vCPU, 8 GB e 100 GB por $12.90: toda a stack oficial com memória sobrando para MongoDB, Meilisearch e o banco de dados vetorial crescerem, disco para uploads e CPU para gerar embeddings de documentos sem travar o chat. Os modelos ficam em outro lugar, atrás de uma chave de API, então esta máquina nunca precisa de GPU. Se você precisa de uma cidade que a linha mais barata não tem, C4-8-160 por $75.90 é o mesmo formato em outro lugar.

Implantar BD-8C4-8-160 em mais cidades

Perguntas

O que as pessoas perguntam antes de comprar.

Quais são os requisitos de sistema do LibreChat?
A documentação não publica nenhum. O guia de Docker lista Git e Docker como pré-requisitos e não diz nada sobre RAM, CPU ou disco. O que podemos ler é o arquivo compose oficial, que inicia seis contêineres: o app LibreChat, um painel de administração, MongoDB, Meilisearch, um banco de dados pgvector e a API de RAG. Os tamanhos desta página são nossos, deduzidos dessa stack, e a tabela informa isso. Uma máquina de 8 GB é onde uma equipe deixa de ficar apertada.
O LibreChat precisa de uma GPU?
Não. O LibreChat é a interface: ele chama o modelo que você configurar, por meio de uma chave de API da OpenAI, Anthropic, Google e outros, ou de um endpoint personalizado como o Ollama. Se você também quiser hospedar um modelo, isso é outra máquina e outra questão: a página do Ollama dimensiona a inferência em CPU por modelo, e a linha GPU é onde está a velocidade interativa.
Quais portas ele usa?
O arquivo compose publica o app na PORT do .env, 3080 por padrão, e o painel de administração na 3000. MongoDB, Meilisearch, o banco de dados vetorial e a API de RAG não são publicados e ficam na rede do compose. O app usa HTTP simples, então mantenha 3080 e 3000 bloqueadas no firewall até que um proxy reverso forneça HTTPS, e registre sua própria conta primeiro: a primeira criada se torna a de administrador.
De quais chaves de API eu preciso?
Nenhuma para iniciar a stack, e uma por provedor que você quiser usar. OPENAI_API_KEY, ANTHROPIC_API_KEY e GOOGLE_KEY têm user_provided como padrão no .env.example, o que significa que cada usuário informa a própria chave na interface; coloque uma chave real ali para compartilhar uma só entre todos. A busca em arquivos é separada: a API de RAG usa embeddings da OpenAI por padrão, e RAG_OPENAI_API_KEY substitui OPENAI_API_KEY para ela, então a busca em arquivos precisa de uma chave de embeddings, a menos que você mude o provedor.
Como uso modelos locais com ele?
Adicione um endpoint personalizado no librechat.yaml apontando para um servidor compatível com OpenAI, como o Ollama, no endereço /v1/ na porta 11434. O próprio guia do LibreChat diz para usar host.docker.internal em vez de localhost quando o LibreChat roda em um contêiner, e que o Ollama ignora a chave de API, mas o campo não pode ficar vazio. Execute o modelo em uma máquina própria se ele não for pequeno; as máquinas desta página são dimensionadas para a interface.
LibreChat, Open WebUI ou Dify?
LibreChat e Open WebUI são ambos interfaces de chat para vários modelos, e o LibreChat se apoia em contas multiusuário, agentes e ferramentas MCP em provedores hospedados. Dify é uma plataforma de apps de LLM: prompts, fluxos de trabalho e apps de RAG que você cria e expõe, e não uma interface de chat para uma equipe. Todos rodam nas mesmas máquinas, e mantemos uma página para cada um.
Como faço a atualização?
Da documentação: docker compose down, remova as imagens antigas, git pull, docker compose pull e depois docker compose up. Faça backup antes do diretório data-node (MongoDB), do diretório de dados do Meilisearch e do seu .env: são as conversas, o índice de busca e as chaves.

Continue lendo

Relacionados