Přeskočit na obsah

Řešení · Chat s více modely

VPS pro LibreChat

LibreChat je open-source chatovací rozhraní pro mnoho modelů najednou: OpenAI, Anthropic, Google a lokální modely přes endpoint kompatibilní s OpenAI, s agenty, vyhledáváním v souborech a účty pro celý tým. Jeho dokumentace neuvádí žádný údaj o RAM ani CPU a oficiální soubor Docker Compose spouští šest kontejnerů, proto velikost odvozujeme z něj. BD-8 za $12.90 měsíčně je nejlevnější stroj se skutečnou rezervou; C2-4-80 za $37.90 je menší varianta pro jednoho uživatele nebo malou skupinu.

Co potřebuje

Software podle dokumentace, velikosti s uvedeným zdrojem

Software a bezpečnostní nastavení vycházejí z vlastní dokumentace projektu. Kde projekt neuvádí žádné hardwarové údaje, velikosti uvádějí, odkud pocházejí.

Z dokumentace LibreChat a jejího compose souboru

  • Git a Docker na Linuxu. Návod pro Docker na librechat.ai nic dalšího neuvádí a neuvádí žádné požadavky na RAM, CPU ani disk.
  • Instalace: naklonujte repozitář, poté cp .env.example .env && docker compose up -d. Aplikace odpovídá na portu 3080; druhý kontejner, administrační panel, odpovídá na portu 3000.
  • Oficiální compose soubor spouští šest kontejnerů: aplikaci LibreChat, její administrační panel, MongoDB pro konverzace a účty, Meilisearch pro vyhledávání v konverzacích, databázi pgvector a RAG API pro vyhledávání v souborech.
  • Modely jsou klíče, ne hardware. Klíče OpenAI, Anthropic a Google patří do .env, nebo si každý uživatel zadá vlastní v rozhraní. Lokální model je samostatný endpoint Ollama nebo jiný kompatibilní s OpenAI, který přidáte v librechat.yaml, takže tento stroj nepotřebuje GPU.

Velikosti (naše, podle šesti kontejnerů, které spouští compose soubor)

Dimenzování podle použití
ZátěžvCPURAM
Jeden uživatel nebo malá skupina, pár chatů, žádné náročné vyhledávání v souborechNaše. Šest kontejnerů zabírá paměť i v nečinnosti; méně bychom pro ně nevolili.24 GB
Tým, zapnuté vyhledávání v souborech, rostoucí vyhledávací indexNaše. MongoDB, Meilisearch i vektorová databáze potřebují rezervu a vytváření embeddingů z nahraných souborů zatěžuje CPU.48 GB
Mnoho uživatelů, velké sady dokumentů, konverzace uchovávané rokyNaše. Úložiště konverzací, vyhledávací index i vektory rostou s používáním.816 GB

Vhodné tarify

5 počítačů s aktuálními cenami

Nejlevnější vyhovující stroj první. Ceny jsou dnešní, měsíční, načtené z katalogu.

  • BD-8$12.90/měs.

    4 vCPU · 8 GB · 100 GB disk · 32 TB

    Nejlevnější s místem pro celý stack. Pohodlné pro tým: šest kontejnerů, nahrané soubory a vyhledávací index, s rezervou paměti.

  • BD-12$17.90/měs.

    6 vCPU · 12 GB · 200 GB disk · 32 TB

    Více disku pro nahrané soubory a vektory. Pro skutečnou knihovnu dokumentů pro vyhledávání v souborech a roky uložených konverzací.

  • BD-24$31.90/měs.

    8 vCPU · 24 GB · 300 GB disk · 32 TB

    Velký tým nebo několik náročných uživatelů. Dostatek paměti, do které mohou MongoDB, Meilisearch a vektorová databáze růst.

  • C2-4-80$37.90/měs.

    2 vCPU · 4 GB · 80 GB disk · 3 TB

    Menší varianta, pro jednoho nebo několik uživatelů. Utáhne stack; nespouštějte na něm navíc lokální model ani buildy. Vyberte ho kvůli městu, ne kvůli velikosti.

  • C4-8-160$75.90/měs.

    4 vCPU · 8 GB · 160 GB disk · 3 TB

    Pohodlná velikost, pokud vám města nejlevnějšího řádku nevyhovují. Stejná varianta jako nejlevnější řádek, pro tým, který potřebuje jiné město.

Pro LibreChat zatím nemáme předvolbu pro spuštění: instalace spočívá v krocích níže, které zadáte sami. Jde o příkazy z dokumentace LibreChat a tajné klíče, které vyžaduje jeho compose soubor.

Instalace

Čtyři kroky z dokumentace LibreChat

Docker, compose stack, první účet, pak vaše modely. Zaregistrujte si vlastní účet hned, jak stack naběhne: první vytvořený účet se stane administrátorem.

  1. Docker. curl -fsSL https://get.docker.com | sh Poté ověřte, že docker compose version odpovídá.
  2. Naklonujte a nakonfigurujte. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env V .env nastavte MEILI_MASTER_KEY (alespoň 16 znaků) a ADMIN_PANEL_SESSION_SECRET, bez kterého se administrační panel nespustí. Pokud kontejnery hlásí chyby oprávnění, nastavte UID a GID na uživatele, který spouští compose.
  3. Spusťte ho a zaregistrujte se jako první. docker compose up -d docker compose ps by měl ukázat všech šest kontejnerů v běhu. Otevřete http://your-ip:3080 a klikněte na Registrace: výchozí uživatel neexistuje. Dokud není předřazeno HTTPS, držte porty 3080 a 3000 za firewallem a k aplikaci přistupujte přes SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. Přidejte modely, pak doménu. Vložte OPENAI_API_KEY, ANTHROPIC_API_KEY a GOOGLE_KEY do .env, nebo je ponechte jako user_provided, aby každý uživatel zadal vlastní klíč. Pro lokální model přidejte endpoint Ollama do librechat.yaml; z kontejneru je adresa host.docker.internal, ne localhost. Pro HTTPS nasměrujte záznam A na server, předřaďte reverzní proxy a nastavte DOMAIN_CLIENT a DOMAIN_SERVER v .env na veřejnou adresu. Jakmile se vaši lidé zaregistrují, nastavte ALLOW_REGISTRATION na false.

Upřímně

Co bychom skutečně koupili

LibreChat neuvádí žádné minimum a spouští šest kontejnerů. Kupte stroj s 8 GB.

Pro LibreChat a tým

BD-8 · $12.90/měs.

4 vCPU, 8 GB a 100 GB za $12.90: celý oficiální stack s pamětí, do které mohou MongoDB, Meilisearch a vektorová databáze růst, diskem pro nahrané soubory a CPU pro embeddingy dokumentů, aniž by se chat zasekával. Modely běží jinde, za API klíčem, takže tento stroj nikdy nepotřebuje GPU. Pokud potřebujete město, které nejlevnější řádek nemá, C4-8-160 za $75.90 je stejná varianta jinde.

Otázky

Na co se lidé ptají před koupí.

Jaké má LibreChat systémové požadavky?
Dokumentace žádné nezveřejňuje. Návod pro Docker uvádí jako předpoklady Git a Docker a o RAM, CPU ani disku nic neříká. Vycházet můžeme z oficiálního compose souboru, který spouští šest kontejnerů: aplikaci LibreChat, administrační panel, MongoDB, Meilisearch, databázi pgvector a RAG API. Velikosti na této stránce jsou naše, odvozené z tohoto stacku, a tabulka to uvádí. Stroj s 8 GB je hranice, od které už tým není omezován.
Potřebuje LibreChat GPU?
Ne. LibreChat je rozhraní: volá model, který nakonfigurujete, přes API klíč pro OpenAI, Anthropic, Google a další, nebo přes vlastní endpoint, například Ollama. Pokud chcete model hostovat i sami, jde o samostatný stroj a samostatnou otázku: stránka Ollama určuje velikost pro inferenci na CPU podle modelu a interaktivní rychlost nabízí řada GPU.
Jaké porty používá?
Compose soubor zpřístupňuje aplikaci na portu PORT z .env, ve výchozím stavu 3080, a administrační panel na 3000. MongoDB, Meilisearch, vektorová databáze a RAG API zpřístupněny nejsou a zůstávají v síti compose. Aplikace běží na prostém HTTP, proto mějte porty 3080 a 3000 za firewallem, dokud vám reverzní proxy nezajistí HTTPS, a jako první zaregistrujte svůj vlastní účet: první vytvořený účet se stane administrátorem.
Které API klíče potřebuji?
Ke spuštění stacku žádné a jeden pro každého poskytovatele, kterého chcete používat. OPENAI_API_KEY, ANTHROPIC_API_KEY a GOOGLE_KEY mají v .env.example výchozí hodnotu user_provided, což znamená, že si každý uživatel zadá vlastní klíč v rozhraní; pokud chcete jeden klíč sdílet pro všechny, vložte tam skutečný klíč. Vyhledávání v souborech je samostatné: RAG API ve výchozím stavu používá embeddingy OpenAI a RAG_OPENAI_API_KEY pro něj přepisuje OPENAI_API_KEY, takže vyhledávání v souborech potřebuje klíč pro embeddingy, pokud nezměníte poskytovatele.
Jak s ním používat lokální modely?
Přidejte vlastní endpoint v librechat.yaml směřující na server kompatibilní s OpenAI, jako je Ollama, na jeho adresu /v1/ na portu 11434. Vlastní návod LibreChat říká, že když LibreChat běží v kontejneru, máte místo localhost použít host.docker.internal, a že Ollama API klíč ignoruje, ale pole nesmí být prázdné. Pokud nejde o malý model, spusťte ho na samostatném stroji; stroje na této stránce jsou dimenzovány pro rozhraní.
LibreChat, Open WebUI, nebo Dify?
LibreChat i Open WebUI jsou chatovací rozhraní pro mnoho modelů, přičemž LibreChat klade důraz na víceuživatelské účty, agenty a nástroje MCP napříč hostovanými poskytovateli. Dify je platforma pro LLM aplikace: prompty, workflow a RAG aplikace, které sestavíte a zpřístupníte, spíše než chatovací rozhraní pro tým. Všechny běží na stejných strojích a pro každou máme vlastní stránku.
Jak ho aktualizuji?
Podle dokumentace: docker compose down, odstraňte staré obrazy, git pull, docker compose pull, poté docker compose up. Nejprve zálohujte adresář data-node (MongoDB), datový adresář Meilisearch a svůj .env: to jsou konverzace, vyhledávací index a klíče.