Zum Inhalt springen

Lösungen · Multi-Modell-Chat

VPS für LibreChat mieten

LibreChat ist die Open-Source-Chat-Oberfläche für viele Modelle gleichzeitig: OpenAI, Anthropic, Google und lokale Modelle über einen OpenAI-kompatiblen Endpunkt, mit Agents, Dateisuche und Konten für ein ganzes Team. Die Dokumentation nennt keine Werte für RAM oder CPU, und die offizielle Docker-Compose-Datei startet sechs Container, also bemessen wir danach. BD-8 für $12.90 im Monat ist die günstigste Maschine mit echtem Spielraum; C2-4-80 für $37.90 ist die kleinere Variante für einen Nutzer oder eine kleine Gruppe.

BD-8 bereitstellenAlle Tarife vergleichen

Was es braucht

Software laut Dokumentation, Größen mit Quellenangabe

Software und Sicherheitskonfiguration stammen aus der Dokumentation des jeweiligen Projekts. Wo das Projekt keine Hardwareangabe veröffentlicht, ist bei den Größen angegeben, von wem sie stammen.

Aus der LibreChat-Dokumentation und ihrer Compose-Datei

  • Git und Docker unter Linux. Der Docker-Ratgeber auf librechat.ai nennt nichts weiter und gibt keine Anforderungen an RAM, CPU oder Speicherplatz an.
  • Installation: Repository klonen, dann cp .env.example .env && docker compose up -d. Die App antwortet auf Port 3080; ein zweiter Container, das Admin-Panel, antwortet auf Port 3000.
  • Die offizielle Compose-Datei startet sechs Container: die LibreChat-App, ihr Admin-Panel, MongoDB für Unterhaltungen und Konten, Meilisearch für die Suche in Unterhaltungen, eine pgvector-Datenbank und die RAG API für die Dateisuche.
  • Modelle sind Keys, keine Hardware. Keys für OpenAI, Anthropic und Google kommen in die .env, oder jeder Nutzer gibt seinen eigenen in der Oberfläche ein. Ein lokales Modell ist ein separater Ollama- oder anderer OpenAI-kompatibler Endpunkt, den Sie in librechat.yaml hinzufügen, daher braucht diese Maschine keine GPU.

Größen (unsere Angaben, ausgehend von den sechs Containern, die die Compose-Datei startet)

Dimensionierung nach Einsatzzweck
WorkloadvCPURAM
Ein Nutzer oder eine kleine Gruppe, wenige Chats, keine intensive DateisucheUnsere Angabe. Sechs Container belegen schon im Leerlauf eigenen Arbeitsspeicher; darunter würden wir sie nicht betreiben.24 GB
Ein Team, Dateisuche aktiv, wachsender SuchindexUnsere Angabe. MongoDB, Meilisearch und die Vektordatenbank brauchen jeweils Reserven, und das Einbetten von Uploads ist CPU-Arbeit.48 GB
Viele Nutzer, große Dokumentbestände, Unterhaltungen über Jahre gespeichertUnsere Angabe. Der Unterhaltungsspeicher, der Suchindex und die Vektoren wachsen alle mit der Nutzung.816 GB

Die passenden Tarife

5 Server, live bepreist

Günstigste passende Maschine zuerst. Die Preise sind die heutigen, pro Monat, aus dem Katalog gelesen.

  • BD-8$12.90/Monat

    4 vCPU · 8 GB · 100 GB Speicherplatz · 32 TB

    Am günstigsten mit Platz für den gesamten Stack. Komfortabel für ein Team: die sechs Container, Uploads und der Suchindex, mit Arbeitsspeicher in Reserve.

    Bereitstellen
  • BD-12$17.90/Monat

    6 vCPU · 12 GB · 200 GB Speicherplatz · 32 TB

    Mehr Speicherplatz für Uploads und Vektoren. Für eine echte Dokumentenbibliothek hinter der Dateisuche und jahrelang gespeicherte Unterhaltungen.

    Bereitstellen
  • BD-24$31.90/Monat

    8 vCPU · 24 GB · 300 GB Speicherplatz · 32 TB

    Ein großes Team oder mehrere intensive Nutzer. Reichlich Arbeitsspeicher, in den MongoDB, Meilisearch und die Vektordatenbank hineinwachsen können.

    Bereitstellen
  • C2-4-80$37.90/Monat

    2 vCPU · 4 GB · 80 GB Speicherplatz · 3 TB

    Die kleinere Variante, für einen oder wenige Nutzer. Betreibt den Stack; lassen Sie darauf nicht zusätzlich ein lokales Modell oder Builds laufen. Wählen Sie sie wegen der Stadt, nicht wegen der Größe.

    Bereitstellen
  • C4-8-160$75.90/Monat

    4 vCPU · 8 GB · 160 GB Speicherplatz · 3 TB

    Die komfortable Größe, falls die Städte der günstigsten Zeile nicht zu Ihnen passen. Dieselbe Ausstattung wie die günstigste Zeile, für ein Team, das eine andere Stadt braucht.

    Bereitstellen

Für LibreChat gibt es noch keine Startvorlage: Die Installation besteht aus den folgenden Schritten, die Sie selbst eingeben. Es sind die Befehle aus der LibreChat-Dokumentation, plus die Secrets, die die Compose-Datei verlangt.

Die Installation

Vier Schritte, aus der Dokumentation von LibreChat

Docker, der Compose-Stack, das erste Konto, dann Ihre Modelle. Registrieren Sie Ihr eigenes Konto, sobald der Stack läuft: Das zuerst angelegte Konto wird Administrator.

  1. Docker. curl -fsSL https://get.docker.com | sh Prüfen Sie dann, ob docker compose version antwortet.
  2. Klonen und konfigurieren. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env Setzen Sie in .env MEILI_MASTER_KEY (mindestens 16 Zeichen) und ADMIN_PANEL_SESSION_SECRET, ohne das das Admin-Panel nicht startet. Wenn die Container Berechtigungsfehler melden, setzen Sie UID und GID auf den Benutzer, der compose ausführt.
  3. Starten und zuerst registrieren. docker compose up -d docker compose ps sollte alle sechs Container als laufend zeigen. Öffnen Sie http://your-ip:3080 und klicken Sie auf Registrieren: Es gibt keinen Standardbenutzer. Bis HTTPS davorgeschaltet ist, halten Sie 3080 und 3000 hinter der Firewall und erreichen die App über SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. Modelle hinzufügen, dann eine Domain. Tragen Sie OPENAI_API_KEY, ANTHROPIC_API_KEY und GOOGLE_KEY in .env ein oder belassen Sie sie auf user_provided, damit jeder Benutzer seinen eigenen Schlüssel eingibt. Für ein lokales Modell fügen Sie in librechat.yaml einen Ollama-Endpunkt hinzu; innerhalb des Containers lautet die Adresse host.docker.internal, nicht localhost. Für HTTPS richten Sie einen A-Record auf den Server, schalten einen Reverse Proxy davor und setzen DOMAIN_CLIENT und DOMAIN_SERVER in .env auf die öffentliche Adresse. Sobald sich Ihre Leute registriert haben, setzen Sie ALLOW_REGISTRATION auf false.

Ehrlich gesagt

Was wir tatsächlich kaufen würden

LibreChat nennt kein Minimum und startet sechs Container. Nehmen Sie die Maschine mit 8 GB.

Für LibreChat und ein Team

BD-8 · $12.90/Monat

4 vCPU, 8 GB und 100 GB für $12.90: der gesamte offizielle Stack mit Arbeitsspeicher, in den MongoDB, Meilisearch und die Vektordatenbank hineinwachsen können, Speicherplatz für Uploads und CPU, um Dokumente einzubetten, ohne dass der Chat stockt. Die Modelle liegen anderswo, hinter einem API-Key, daher braucht diese Maschine nie eine GPU. Wenn Sie eine Stadt brauchen, die die günstigste Zeile nicht hat, ist C4-8-160 für $75.90 dieselbe Ausstattung an einem anderen Ort.

BD-8 bereitstellenC4-8-160 in weiteren Städten

Fragen

Was Kunden vor dem Kauf fragen.

Welche Systemanforderungen hat LibreChat?
Die Dokumentation nennt keine. Der Docker-Ratgeber führt Git und Docker als Voraussetzungen auf und sagt nichts zu RAM, CPU oder Speicherplatz. Was wir lesen können, ist die offizielle Compose-Datei, die sechs Container startet: die LibreChat-App, ein Admin-Panel, MongoDB, Meilisearch, eine pgvector-Datenbank und die RAG API. Die Größen auf dieser Seite sind unsere eigenen, aus diesem Stack abgeleitet, und die Tabelle sagt das auch. Ab einer Maschine mit 8 GB wird es für ein Team nicht mehr eng.
Braucht LibreChat eine GPU?
Nein. LibreChat ist die Oberfläche: Es ruft das Modell auf, das Sie konfigurieren, über einen API-Key für OpenAI, Anthropic, Google und andere oder über einen eigenen Endpunkt wie Ollama. Wenn Sie zusätzlich selbst ein Modell hosten möchten, ist das eine separate Maschine und eine separate Frage: Die Ollama-Seite bemisst CPU-Inferenz nach Modell, und die GPU-Linie ist der Ort für interaktive Geschwindigkeit.
Welche Ports verwendet es?
Die Compose-Datei veröffentlicht die App auf dem PORT aus der .env, standardmäßig 3080, und das Admin-Panel auf 3000. MongoDB, Meilisearch, die Vektordatenbank und die RAG API werden nicht veröffentlicht und bleiben im Compose-Netzwerk. Die App spricht reines HTTP, halten Sie 3080 und 3000 daher per Firewall gesperrt, bis ein Reverse Proxy Ihnen HTTPS bereitstellt, und registrieren Sie zuerst Ihr eigenes Konto: Das erste angelegte Konto wird Admin.
Welche API-Keys brauche ich?
Keine, um den Stack zu starten, und einen pro Anbieter, den Sie nutzen möchten. OPENAI_API_KEY, ANTHROPIC_API_KEY und GOOGLE_KEY stehen in .env.example standardmäßig auf user_provided, das heißt, jeder Nutzer gibt seinen eigenen Key in der Oberfläche ein; tragen Sie dort stattdessen einen echten Key ein, um einen für alle zu teilen. Die Dateisuche ist getrennt: Die RAG API nutzt standardmäßig OpenAI-Embeddings, und RAG_OPENAI_API_KEY überschreibt dafür OPENAI_API_KEY, daher braucht die Dateisuche einen Embeddings-Key, sofern Sie den Anbieter nicht ändern.
Wie nutze ich lokale Modelle damit?
Fügen Sie in librechat.yaml einen benutzerdefinierten Endpunkt hinzu, der auf einen OpenAI-kompatiblen Server wie Ollama zeigt, unter dessen /v1/-Adresse auf Port 11434. Der Ratgeber von LibreChat sagt, dass host.docker.internal statt localhost zu verwenden ist, wenn LibreChat in einem Container läuft, und dass Ollama den API-Schlüssel ignoriert, das Feld aber nicht leer sein darf. Betreiben Sie das Modell auf einer eigenen Maschine, wenn es mehr als ein kleines ist; die Maschinen auf dieser Seite sind für die Oberfläche dimensioniert.
LibreChat, Open WebUI oder Dify?
LibreChat und Open WebUI sind beide Chat-Oberflächen für viele Modelle, wobei LibreChat auf Mehrbenutzerkonten, Agents und MCP-Tools über gehostete Anbieter hinweg setzt. Dify ist eine Plattform für LLM-Anwendungen: Prompts, Workflows und RAG-Apps, die Sie bauen und bereitstellen, statt eines Chat-Frontends für ein Team. Alle laufen auf denselben Maschinen, und wir haben für jede eine eigene Seite.
Wie aktualisiere ich es?
Laut Dokumentation: docker compose down, alte Images entfernen, git pull, docker compose pull, dann docker compose up. Sichern Sie vorher das Verzeichnis data-node (MongoDB), das Meilisearch-Datenverzeichnis und Ihre .env: Das sind die Unterhaltungen, der Suchindex und die Schlüssel.

Weiterlesen

Verwandt