Megoldások · Többmodelles csevegés

VPS a LibreChathez

A LibreChat egy nyílt forráskódú csevegőfelület, amely egyszerre több modellt kezel: OpenAI, Anthropic, Google, valamint helyi modellek egy OpenAI-kompatibilis végponton keresztül, ügynökökkel, fájlkereséssel és fiókokkal egy egész csapat számára. A dokumentációja nem ad meg RAM- vagy CPU-értéket, a hivatalos Docker Compose fájl pedig hat konténert indít, ezért ebből indulunk ki a méretezésnél. A(z) BD-8 havi $12.90 áron a legolcsóbb gép, amelyben valóban van tartalék; a(z) C2-4-80 $37.90 áron a kisebb kiépítés egy felhasználónak vagy egy kis csoportnak.

BD-8 üzembe helyezése Az összes csomag összehasonlítása

Amire szüksége van

Szoftver a dokumentációból, a méreteknél feltüntetett forrással

A szoftver és a biztonsági beállítások a projekt saját dokumentációjából származnak. Ahol a projekt nem közöl hardverigényt, a méreteknél fel van tüntetve, kitől származnak.

A LibreChat dokumentációjából és compose fájljából

Git és Docker, Linuxon. A librechat.ai Docker-útmutatója semmi mást nem sorol fel, és nem ad meg RAM-, CPU- vagy lemezkövetelményt.
Telepítés: klónozza a tárolót, majd cp .env.example .env && docker compose up -d. Az alkalmazás a 3080-as porton válaszol; egy második konténer, az adminpanel, a 3000-es porton.
A hivatalos compose fájl hat konténert indít: a LibreChat alkalmazást, az adminpanelt, a MongoDB-t a beszélgetésekhez és fiókokhoz, a Meilisearch-öt a beszélgetések kereséséhez, egy pgvector adatbázist és a RAG API-t a fájlkereséshez.
A modellek kulcsok, nem hardver. Az OpenAI-, Anthropic- és Google-kulcsok a .env fájlba kerülnek, vagy minden felhasználó a sajátját adja meg a felületen. A helyi modell egy külön Ollama vagy más OpenAI-kompatibilis végpont, amelyet a librechat.yaml fájlban ad hozzá, így ennek a gépnek nincs szüksége GPU-ra.

Méretek (saját becslés, a compose fájl által indított hat konténer alapján)

Méretezés felhasználás szerint
Munkaterhelés	vCPU	RAM
Egy felhasználó vagy kis csoport, néhány csevegés, intenzív fájlkeresés nélkülSaját becslés. Hat konténer már tétlenül is saját memóriát foglal; ez a legkevesebb, amin futtatnánk őket.	2	4 GB
Csapat, bekapcsolt fájlkereséssel, növekvő keresőindexszelSaját becslés. A MongoDB, a Meilisearch és a vektoradatbázis egyaránt tartalékot igényel, a feltöltések embeddingje pedig CPU-munka.	4	8 GB
Sok felhasználó, nagy dokumentumállományok, évekig megőrzött beszélgetésekSaját becslés. A beszélgetéstár, a keresőindex és a vektorok mind nőnek a használattal.	8	16 GB

A megfelelő csomagok

5 gép, aktuális árakon

A legolcsóbb megfelelő gép elöl. Az árak a mai havi árak, a katalógusból.

BD-8$12.90/hó
4 vCPU · 8 GB · 100 GB lemez · 32 TB
A legolcsóbb, amelyen elfér a teljes stack. Kényelmes egy csapatnak: a hat konténer, a feltöltések és a keresőindex, tartalék memóriával.
Üzembe helyezés
BD-12$17.90/hó
6 vCPU · 12 GB · 200 GB lemez · 32 TB
Több lemez a feltöltéseknek és a vektoroknak. Fájlkeresés mögötti valódi dokumentumtárhoz és évekre visszamenő mentett beszélgetésekhez.
Üzembe helyezés
BD-24$31.90/hó
8 vCPU · 24 GB · 300 GB lemez · 32 TB
Nagy csapat vagy több intenzív felhasználó. Bőven van memória, amelybe a MongoDB, a Meilisearch és a vektoradatbázis belenőhet.
Üzembe helyezés
C2-4-80$37.90/hó
2 vCPU · 4 GB · 80 GB lemez · 3 TB
A kisebb kiépítés, egy vagy néhány felhasználónak. Elfuttatja a stacket; ne futtasson rajta mellette helyi modellt vagy buildeket. A város miatt válassza, ne a méret miatt.
Üzembe helyezés
C4-8-160$75.90/hó
4 vCPU · 8 GB · 160 GB lemez · 3 TB
A kényelmes méret, ha a legolcsóbb sor városai nem felelnek meg Önnek. Ugyanaz a kiépítés, mint a legolcsóbb sorban, olyan csapatnak, amelynek másik város kell.
Üzembe helyezés

Megfelelő csomagok aktuális árakkal
Csomag	vCPU	RAM	Lemez	Adatforgalom	Ár	Üzembe helyezés
BD-8A legolcsóbb, amelyen elfér a teljes stackKényelmes egy csapatnak: a hat konténer, a feltöltések és a keresőindex, tartalék memóriával.	4	8 GB	100 GB	32 TB	$12.90/hó	Üzembe helyezés
BD-12Több lemez a feltöltéseknek és a vektoroknakFájlkeresés mögötti valódi dokumentumtárhoz és évekre visszamenő mentett beszélgetésekhez.	6	12 GB	200 GB	32 TB	$17.90/hó	Üzembe helyezés
BD-24Nagy csapat vagy több intenzív felhasználóBőven van memória, amelybe a MongoDB, a Meilisearch és a vektoradatbázis belenőhet.	8	24 GB	300 GB	32 TB	$31.90/hó	Üzembe helyezés
C2-4-80A kisebb kiépítés, egy vagy néhány felhasználónakElfuttatja a stacket; ne futtasson rajta mellette helyi modellt vagy buildeket. A város miatt válassza, ne a méret miatt.	2	4 GB	80 GB	3 TB	$37.90/hó	Üzembe helyezés
C4-8-160A kényelmes méret, ha a legolcsóbb sor városai nem felelnek meg ÖnnekUgyanaz a kiépítés, mint a legolcsóbb sorban, olyan csapatnak, amelynek másik város kell.	4	8 GB	160 GB	3 TB	$75.90/hó	Üzembe helyezés

A LibreChathez még nincs indítási előbeállítás: a telepítés az alábbi lépésekből áll, amelyeket Ön gépel be. Ezek a LibreChat saját dokumentációjának parancsai, kiegészítve a compose fájl által kért titkos kulcsokkal.

A telepítés

Négy lépés, a LibreChat dokumentációjából

Docker, a compose stack, az első fiók, majd a modellek. Regisztrálja saját fiókját, amint a stack fut: az elsőként létrehozott fiók lesz az admin.

Docker. curl -fsSL https://get.docker.com | sh Ezután ellenőrizze, hogy a(z) docker compose version válaszol-e.
Klónozás és konfigurálás. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env A .env fájlban állítsa be a(z) MEILI_MASTER_KEY értéket (legalább 16 karakter) és a(z) ADMIN_PANEL_SESSION_SECRET értéket, amely nélkül az adminpanel nem indul el. Ha a konténerek jogosultsági hibát jeleznek, állítsa a(z) UID és GID értékét a compose-t futtató felhasználóra.
Indítsa el, és regisztráljon elsőként. docker compose up -d A(z) docker compose ps mind a hat konténert futó állapotban kell mutassa. Nyissa meg a http://your-ip:3080 címet, és kattintson a Regisztráció gombra: nincs alapértelmezett felhasználó. Amíg nincs HTTPS előtte, tartsa a 3080-as és 3000-es portot a tűzfal mögött, és SSH-n keresztül érje el az alkalmazást: ssh -N -L 3080:127.0.0.1:3080 root@your-server
Adjon hozzá modelleket, majd egy domaint. Írja a(z) OPENAI_API_KEY, ANTHROPIC_API_KEY és GOOGLE_KEY értékeket a .env fájlba, vagy hagyja őket user_provided értéken, hogy minden felhasználó a saját kulcsát adja meg. Helyi modellhez adjon hozzá egy Ollama végpontot a librechat.yaml fájlban; a konténeren belülről a cím host.docker.internal, nem localhost. HTTPS-hez irányítson egy A rekordot a szerverre, tegyen elé reverse proxyt, és a .env fájlban állítsa a(z) DOMAIN_CLIENT és DOMAIN_SERVER értékét a nyilvános címre. Miután a felhasználói regisztráltak, állítsa a(z) ALLOW_REGISTRATION értékét false-ra.

Őszintén

Amit mi ténylegesen vennénk

A LibreChat nem ad meg alsó határt, és hat konténert indít. Vegye a 8 GB-os gépet.

A LibreChathez és egy csapathoz

BD-8 · $12.90/hó

4 vCPU, 8 GB és 100 GB $12.90 áron: a teljes hivatalos stack, maradék memóriával, amelybe a MongoDB, a Meilisearch és a vektoradatbázis belenőhet, lemezzel a feltöltéseknek és CPU-val a dokumentumok embeddingjéhez anélkül, hogy a csevegés megakadna. A modellek máshol vannak, API-kulcs mögött, így ennek a gépnek soha nincs szüksége GPU-ra. Ha olyan városra van szüksége, amely a legolcsóbb sorban nem szerepel, a(z) C4-8-160 $75.90 áron ugyanez a kiépítés máshol.

BD-8 üzembe helyezése C4-8-160 több városban

Kérdések

Amit vásárlás előtt kérdezni szoktak.

Mik a LibreChat rendszerkövetelményei?

A dokumentációja nem közöl ilyet. A Docker-útmutató előfeltételként a Gitet és a Dockert sorolja fel, a RAM-ról, CPU-ról vagy lemezről semmit nem mond. Amit láthatunk, az a hivatalos compose fájl, amely hat konténert indít: a LibreChat alkalmazást, egy adminpanelt, a MongoDB-t, a Meilisearch-öt, egy pgvector adatbázist és a RAG API-t. Az oldalon szereplő méretek a mieink, ebből a stackből levezetve, és a táblázat ezt jelzi is. Egy csapat számára egy 8 GB-os gépnél szűnik meg a szűkösség.

Kell GPU a LibreChathez?

Nem. A LibreChat a felület: azt a modellt hívja meg, amelyet beállít, API-kulccsal az OpenAI, az Anthropic, a Google és mások esetében, vagy egyéni végponton, például Ollamán keresztül. Ha modellt is szeretne saját maga hosztolni, az külön gép és külön kérdés: az Ollama oldal modellenként méretezi a CPU-s inferenciát, interaktív sebességet pedig a GPU termékvonal nyújt.

Milyen portokat használ?

A compose fájl az alkalmazást a .env fájlban megadott PORT-on teszi elérhetővé, alapértelmezés szerint a 3080-ason, az adminpanelt pedig a 3000-esen. A MongoDB, a Meilisearch, a vektoradatbázis és a RAG API nincs kifelé közzétéve, a compose hálózaton maradnak. Az alkalmazás sima HTTP-t használ, ezért tartsa tűzfal mögött a 3080-as és a 3000-es portot, amíg egy reverse proxy HTTPS-t nem biztosít, és először a saját fiókját regisztrálja: az elsőként létrehozott fiók lesz az admin.

Milyen API-kulcsokra van szükségem?

A stack elindításához egy sem, és szolgáltatónként egy, amelyet használni szeretne. Az OPENAI_API_KEY, az ANTHROPIC_API_KEY és a GOOGLE_KEY alapértéke a .env.example fájlban user_provided, ami azt jelenti, hogy minden felhasználó a saját kulcsát adja meg a felületen; ha inkább egy közös kulcsot szeretne mindenkinek, írjon oda egy valódi kulcsot. A fájlkeresés külön kérdés: a RAG API alapértelmezés szerint OpenAI-embeddingeket használ, és ehhez a RAG_OPENAI_API_KEY felülírja az OPENAI_API_KEY értékét, így a fájlkereséshez embedding-kulcs kell, hacsak nem vált szolgáltatót.

Hogyan használhatok vele helyi modelleket?

Adjon hozzá egy egyéni végpontot a librechat.yaml fájlban, amely egy OpenAI-kompatibilis szerverre, például az Ollamára mutat, annak /v1/ címére a 11434-es porton. A LibreChat saját útmutatója szerint localhost helyett host.docker.internal címet kell használni, ha a LibreChat konténerben fut, és az Ollama figyelmen kívül hagyja az API-kulcsot, de a mező nem lehet üres. Ha nem kis modellről van szó, futtassa a modellt saját gépen; az oldal gépei a felülethez vannak méretezve.

LibreChat, Open WebUI vagy Dify?

A LibreChat és az Open WebUI egyaránt több modellt kiszolgáló csevegőfelület; a LibreChat a többfelhasználós fiókokra, az ügynökökre és a különböző hosztolt szolgáltatókon átívelő MCP-eszközökre helyezi a hangsúlyt. A Dify egy LLM-alkalmazásplatform: promptok, munkafolyamatok és RAG-alkalmazások, amelyeket Ön épít és tesz elérhetővé, nem pedig egy csapatnak szóló csevegőfelület. Mindegyik ugyanazokon a gépeken fut, és mindegyiknek külön oldalt tartunk fenn.

Hogyan frissíthetem?

A dokumentáció szerint: docker compose down, a régi képek eltávolítása, git pull, docker compose pull, majd docker compose up. Előbb mentse a data-node könyvtárat (MongoDB), a Meilisearch adatkönyvtárat és a .env fájlt: ezek a beszélgetések, a keresőindex és a kulcsok.

Olvasson tovább