Oplossingen · Chat met meerdere modellen
Een VPS voor LibreChat
LibreChat is de opensource-chatinterface voor veel modellen tegelijk: OpenAI, Anthropic, Google en lokale modellen via een OpenAI-compatibel endpoint, met agents, zoeken in bestanden en accounts voor een heel team. De documentatie noemt geen RAM- of CPU-cijfer en het officiële Docker Compose-bestand start zes containers, dus daar baseren wij de grootte op. BD-8 voor $12.90 per maand is de goedkoopste machine met echte ruimte; C2-4-80 voor $37.90 is de kleinere variant voor één gebruiker of een kleine groep.
Wat het nodig heeft
Software uit de documentatie, groottes met vermelding van de bron
De software en de beveiligingsaanpak komen uit de eigen documentatie van het project. Waar het project geen hardwarecijfers publiceert, staat bij de groottes van wie ze afkomstig zijn.
Uit de LibreChat-documentatie en het compose-bestand
- Git en Docker, op Linux. De Docker-gids op librechat.ai noemt verder niets en vermeldt geen eisen voor RAM, CPU of schijf.
- Installeren: kloon de repository, daarna
cp .env.example .env && docker compose up -d. De app antwoordt op poort 3080; een tweede container, het beheerpaneel, antwoordt op poort 3000. - Het officiële compose-bestand start zes containers: de LibreChat-app, het beheerpaneel, MongoDB voor gesprekken en accounts, Meilisearch voor het doorzoeken van gesprekken, een pgvector-database en de RAG API voor zoeken in bestanden.
- Modellen zijn sleutels, geen hardware. Sleutels voor OpenAI, Anthropic en Google komen in .env, of elke gebruiker voert zijn eigen sleutel in de interface in. Een lokaal model is een apart Ollama- of ander OpenAI-compatibel endpoint dat u toevoegt in librechat.yaml, dus deze machine heeft geen GPU nodig.
Groottes (van ons, op basis van de zes containers die het compose-bestand start)
| Workload | vCPU | RAM |
|---|---|---|
| Eén gebruiker of een kleine groep, een paar chats, geen zwaar zoeken in bestandenVan ons. Zes containers gebruiken in rust elk hun eigen geheugen; dit is het minste waarop wij ze zouden draaien. | 2 | 4 GB |
| Een team, zoeken in bestanden aan, groeiende zoekindexVan ons. MongoDB, Meilisearch en de vectordatabase hebben elk ruimte nodig, en het embedden van uploads is CPU-werk. | 4 | 8 GB |
| Veel gebruikers, grote documentverzamelingen, gesprekken die jarenlang bewaard blijvenVan ons. De gespreksopslag, de zoekindex en de vectoren groeien allemaal mee met het gebruik. | 8 | 16 GB |
De passende pakketten
5 machines, actueel geprijsd
Goedkoopste passende machine eerst. Prijzen zijn die van vandaag, per maand, uit de catalogus.
- BD-8$12.90/mnd
4 vCPU · 8 GB · 100 GB schijf · 32 TB
Goedkoopst met ruimte voor de hele stack. Ruim voldoende voor een team: de zes containers, uploads en de zoekindex, met geheugen over.
- BD-12$17.90/mnd
6 vCPU · 12 GB · 200 GB schijf · 32 TB
Meer schijfruimte voor uploads en vectoren. Voor een echte documentbibliotheek achter het zoeken in bestanden en jaren aan opgeslagen gesprekken.
- BD-24$31.90/mnd
8 vCPU · 24 GB · 300 GB schijf · 32 TB
Een groot team of meerdere zware gebruikers. Ruim voldoende geheugen waarin MongoDB, Meilisearch en de vectordatabase kunnen groeien.
- C2-4-80$37.90/mnd
2 vCPU · 4 GB · 80 GB schijf · 3 TB
De kleinere variant, voor één of enkele gebruikers. Draait de stack; draai er niet ook een lokaal model of builds op. Kies deze om de stad, niet om de grootte.
- C4-8-160$75.90/mnd
4 vCPU · 8 GB · 160 GB schijf · 3 TB
De comfortabele grootte als de steden van de goedkoopste rij niet bij u passen. Dezelfde variant als de goedkoopste rij, voor een team dat een andere stad nodig heeft.
Er is nog geen startpreset voor LibreChat: de installatie bestaat uit de onderstaande stappen, die u zelf invoert. Het zijn de commando's uit de eigen documentatie van LibreChat, plus de geheimen waar het compose-bestand om vraagt.
De installatie
Vier stappen, uit de documentatie van LibreChat
Docker, de compose-stack, het eerste account, daarna uw modellen. Registreer uw eigen account zodra de stack draait: het eerste aangemaakte account wordt de beheerder.
- Docker.
curl -fsSL https://get.docker.com | shControleer daarna datdocker compose versionantwoordt. - Klonen en configureren.
git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .envStel in .envMEILI_MASTER_KEYin (minimaal 16 tekens) enADMIN_PANEL_SESSION_SECRET, zonder welke het beheerpaneel niet start. Als de containers machtigingsfouten melden, stelUIDenGIDdan in op de gebruiker die compose uitvoert. - Start het en registreer u als eerste.
docker compose up -ddocker compose psmoet alle zes containers actief tonen. Open http://your-ip:3080 en klik op Registreren: er is geen standaardgebruiker. Houd 3080 en 3000 achter de firewall tot HTTPS ervoor staat en bereik de app via SSH:ssh -N -L 3080:127.0.0.1:3080 root@your-server - Voeg modellen toe, daarna een domein. Zet
OPENAI_API_KEY,ANTHROPIC_API_KEYenGOOGLE_KEYin .env, of laat ze op user_provided zodat elke gebruiker een eigen sleutel invoert. Voor een lokaal model voegt u een Ollama-endpoint toe in librechat.yaml; vanuit de container is het adres host.docker.internal, niet localhost. Voor HTTPS laat u een A-record naar de server wijzen, zet u er een reverse proxy voor en stelt uDOMAIN_CLIENTenDOMAIN_SERVERin .env in op het openbare adres. Zodra uw mensen zich hebben geregistreerd, zet uALLOW_REGISTRATIONop false.
Eerlijk gezegd
Wat wij zelf zouden kopen
LibreChat noemt geen minimum en start zes containers. Neem de machine met 8 GB.
Voor LibreChat en een team
BD-8 · $12.90/mnd
4 vCPU, 8 GB en 100 GB voor $12.90: de hele officiële stack, met geheugen over waarin MongoDB, Meilisearch en de vectordatabase kunnen groeien, schijfruimte voor uploads en CPU om documenten te embedden zonder dat de chat hapert. De modellen draaien elders, achter een API-sleutel, dus deze machine heeft nooit een GPU nodig. Hebt u een stad nodig die de goedkoopste rij niet heeft, dan is C4-8-160 voor $75.90 dezelfde variant elders.
Vragen