Řešení · Chat s více modely
VPS pro LibreChat
LibreChat je open-source chatovací rozhraní pro mnoho modelů najednou: OpenAI, Anthropic, Google a lokální modely přes endpoint kompatibilní s OpenAI, s agenty, vyhledáváním v souborech a účty pro celý tým. Jeho dokumentace neuvádí žádný údaj o RAM ani CPU a oficiální soubor Docker Compose spouští šest kontejnerů, proto velikost odvozujeme z něj. BD-8 za $12.90 měsíčně je nejlevnější stroj se skutečnou rezervou; C2-4-80 za $37.90 je menší varianta pro jednoho uživatele nebo malou skupinu.
Co potřebuje
Software podle dokumentace, velikosti s uvedeným zdrojem
Software a bezpečnostní nastavení vycházejí z vlastní dokumentace projektu. Kde projekt neuvádí žádné hardwarové údaje, velikosti uvádějí, odkud pocházejí.
Z dokumentace LibreChat a jejího compose souboru
- Git a Docker na Linuxu. Návod pro Docker na librechat.ai nic dalšího neuvádí a neuvádí žádné požadavky na RAM, CPU ani disk.
- Instalace: naklonujte repozitář, poté
cp .env.example .env && docker compose up -d. Aplikace odpovídá na portu 3080; druhý kontejner, administrační panel, odpovídá na portu 3000. - Oficiální compose soubor spouští šest kontejnerů: aplikaci LibreChat, její administrační panel, MongoDB pro konverzace a účty, Meilisearch pro vyhledávání v konverzacích, databázi pgvector a RAG API pro vyhledávání v souborech.
- Modely jsou klíče, ne hardware. Klíče OpenAI, Anthropic a Google patří do .env, nebo si každý uživatel zadá vlastní v rozhraní. Lokální model je samostatný endpoint Ollama nebo jiný kompatibilní s OpenAI, který přidáte v librechat.yaml, takže tento stroj nepotřebuje GPU.
Velikosti (naše, podle šesti kontejnerů, které spouští compose soubor)
| Zátěž | vCPU | RAM |
|---|---|---|
| Jeden uživatel nebo malá skupina, pár chatů, žádné náročné vyhledávání v souborechNaše. Šest kontejnerů zabírá paměť i v nečinnosti; méně bychom pro ně nevolili. | 2 | 4 GB |
| Tým, zapnuté vyhledávání v souborech, rostoucí vyhledávací indexNaše. MongoDB, Meilisearch i vektorová databáze potřebují rezervu a vytváření embeddingů z nahraných souborů zatěžuje CPU. | 4 | 8 GB |
| Mnoho uživatelů, velké sady dokumentů, konverzace uchovávané rokyNaše. Úložiště konverzací, vyhledávací index i vektory rostou s používáním. | 8 | 16 GB |
Vhodné tarify
5 počítačů s aktuálními cenami
Nejlevnější vyhovující stroj první. Ceny jsou dnešní, měsíční, načtené z katalogu.
- BD-8$12.90/měs.
4 vCPU · 8 GB · 100 GB disk · 32 TB
Nejlevnější s místem pro celý stack. Pohodlné pro tým: šest kontejnerů, nahrané soubory a vyhledávací index, s rezervou paměti.
- BD-12$17.90/měs.
6 vCPU · 12 GB · 200 GB disk · 32 TB
Více disku pro nahrané soubory a vektory. Pro skutečnou knihovnu dokumentů pro vyhledávání v souborech a roky uložených konverzací.
- BD-24$31.90/měs.
8 vCPU · 24 GB · 300 GB disk · 32 TB
Velký tým nebo několik náročných uživatelů. Dostatek paměti, do které mohou MongoDB, Meilisearch a vektorová databáze růst.
- C2-4-80$37.90/měs.
2 vCPU · 4 GB · 80 GB disk · 3 TB
Menší varianta, pro jednoho nebo několik uživatelů. Utáhne stack; nespouštějte na něm navíc lokální model ani buildy. Vyberte ho kvůli městu, ne kvůli velikosti.
- C4-8-160$75.90/měs.
4 vCPU · 8 GB · 160 GB disk · 3 TB
Pohodlná velikost, pokud vám města nejlevnějšího řádku nevyhovují. Stejná varianta jako nejlevnější řádek, pro tým, který potřebuje jiné město.
Pro LibreChat zatím nemáme předvolbu pro spuštění: instalace spočívá v krocích níže, které zadáte sami. Jde o příkazy z dokumentace LibreChat a tajné klíče, které vyžaduje jeho compose soubor.
Instalace
Čtyři kroky z dokumentace LibreChat
Docker, compose stack, první účet, pak vaše modely. Zaregistrujte si vlastní účet hned, jak stack naběhne: první vytvořený účet se stane administrátorem.
- Docker.
curl -fsSL https://get.docker.com | shPoté ověřte, žedocker compose versionodpovídá. - Naklonujte a nakonfigurujte.
git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .envV .env nastavteMEILI_MASTER_KEY(alespoň 16 znaků) aADMIN_PANEL_SESSION_SECRET, bez kterého se administrační panel nespustí. Pokud kontejnery hlásí chyby oprávnění, nastavteUIDaGIDna uživatele, který spouští compose. - Spusťte ho a zaregistrujte se jako první.
docker compose up -ddocker compose psby měl ukázat všech šest kontejnerů v běhu. Otevřete http://your-ip:3080 a klikněte na Registrace: výchozí uživatel neexistuje. Dokud není předřazeno HTTPS, držte porty 3080 a 3000 za firewallem a k aplikaci přistupujte přes SSH:ssh -N -L 3080:127.0.0.1:3080 root@your-server - Přidejte modely, pak doménu. Vložte
OPENAI_API_KEY,ANTHROPIC_API_KEYaGOOGLE_KEYdo .env, nebo je ponechte jako user_provided, aby každý uživatel zadal vlastní klíč. Pro lokální model přidejte endpoint Ollama do librechat.yaml; z kontejneru je adresa host.docker.internal, ne localhost. Pro HTTPS nasměrujte záznam A na server, předřaďte reverzní proxy a nastavteDOMAIN_CLIENTaDOMAIN_SERVERv .env na veřejnou adresu. Jakmile se vaši lidé zaregistrují, nastavteALLOW_REGISTRATIONna false.
Upřímně
Co bychom skutečně koupili
LibreChat neuvádí žádné minimum a spouští šest kontejnerů. Kupte stroj s 8 GB.
Pro LibreChat a tým
BD-8 · $12.90/měs.
4 vCPU, 8 GB a 100 GB za $12.90: celý oficiální stack s pamětí, do které mohou MongoDB, Meilisearch a vektorová databáze růst, diskem pro nahrané soubory a CPU pro embeddingy dokumentů, aniž by se chat zasekával. Modely běží jinde, za API klíčem, takže tento stroj nikdy nepotřebuje GPU. Pokud potřebujete město, které nejlevnější řádek nemá, C4-8-160 za $75.90 je stejná varianta jinde.
Otázky