Rozwiązania · Czat z wieloma modelami

Serwer VPS dla LibreChat

LibreChat to otwartoźródłowy interfejs czatu dla wielu modeli jednocześnie: OpenAI, Anthropic, Google i modeli lokalnych przez endpoint zgodny z OpenAI, z agentami, wyszukiwaniem w plikach i kontami dla całego zespołu. Jej dokumentacja nie podaje wartości RAM ani CPU, a oficjalny plik Docker Compose uruchamia sześć kontenerów, więc rozmiar dobieramy na tej podstawie. BD-8 za $12.90 miesięcznie to najtańsza maszyna z realnym zapasem; C2-4-80 za $37.90 to mniejszy układ dla jednego użytkownika lub małej grupy.

Wdróż BD-8 Porównaj wszystkie plany

Czego potrzebuje

Oprogramowanie według dokumentacji, rozmiary z podanym źródłem

Oprogramowanie i zalecenia bezpieczeństwa pochodzą z dokumentacji danego projektu. Tam, gdzie projekt nie podaje wymagań sprzętowych, przy rozmiarach zaznaczamy, czyje to zalecenia.

Z dokumentacji LibreChat i jej pliku compose

Git i Docker, na Linux. Poradnik Docker na librechat.ai nie wymienia niczego więcej i nie podaje wymagań dotyczących RAM, CPU ani dysku.
Instalacja: sklonuj repozytorium, a następnie cp .env.example .env && docker compose up -d. Aplikacja odpowiada na porcie 3080; drugi kontener, panel administracyjny, odpowiada na porcie 3000.
Oficjalny plik compose uruchamia sześć kontenerów: aplikację LibreChat, jej panel administracyjny, MongoDB na rozmowy i konta, Meilisearch do wyszukiwania rozmów, bazę pgvector oraz RAG API do wyszukiwania w plikach.
Modele to klucze, nie sprzęt. Klucze OpenAI, Anthropic i Google trafiają do .env albo każdy użytkownik podaje własny w interfejsie. Model lokalny to osobny endpoint Ollama lub inny zgodny z OpenAI, który dodajesz w librechat.yaml, więc ta maszyna nie potrzebuje GPU.

Rozmiary (nasze, na podstawie sześciu kontenerów uruchamianych przez plik compose)

Dobór rozmiaru według zastosowania
Obciążenie	vCPU	RAM
Jeden użytkownik lub mała grupa, kilka czatów, bez intensywnego wyszukiwania w plikachNasze. Sześć kontenerów zajmuje pamięć nawet w spoczynku; to najmniej, na czym byśmy je uruchomili.	2	4 GB
Zespół, włączone wyszukiwanie w plikach, rosnący indeks wyszukiwaniaNasze. MongoDB, Meilisearch i baza wektorowa potrzebują zapasu, a tworzenie embeddingów z przesłanych plików obciąża CPU.	4	8 GB
Wielu użytkowników, duże zbiory dokumentów, rozmowy przechowywane latamiNasze. Magazyn rozmów, indeks wyszukiwania i wektory rosną wraz z użyciem.	8	16 GB

Pasujące plany

Maszyny: 5, aktualne ceny

Najpierw najtańsza pasująca maszyna. Ceny dzisiejsze, miesięczne, z katalogu.

BD-8$12.90/mies.
4 vCPU · 8 GB · dysk 100 GB · 32 TB
Najtańszy z miejscem na cały stos. Wygodny dla zespołu: sześć kontenerów, przesłane pliki i indeks wyszukiwania, z zapasem pamięci.
Wdróż
BD-12$17.90/mies.
6 vCPU · 12 GB · dysk 200 GB · 32 TB
Więcej dysku na przesłane pliki i wektory. Dla prawdziwej biblioteki dokumentów do wyszukiwania w plikach i lat zapisanych rozmów.
Wdróż
BD-24$31.90/mies.
8 vCPU · 24 GB · dysk 300 GB · 32 TB
Duży zespół lub kilku intensywnych użytkowników. Dużo pamięci, by MongoDB, Meilisearch i baza wektorowa mogły rosnąć.
Wdróż
C2-4-80$37.90/mies.
2 vCPU · 4 GB · dysk 80 GB · 3 TB
Mniejszy układ dla jednego lub kilku użytkowników. Uruchamia stos; nie uruchamiaj na nim dodatkowo modelu lokalnego ani kompilacji. Wybierz go ze względu na miasto, nie rozmiar.
Wdróż
C4-8-160$75.90/mies.
4 vCPU · 8 GB · dysk 160 GB · 3 TB
Wygodny rozmiar, gdy miasta z najtańszego wiersza Ci nie odpowiadają. Ten sam układ co w najtańszym wierszu, dla zespołu, który potrzebuje innego miasta.
Wdróż

Pasujące plany z aktualnymi cenami
Plan	vCPU	RAM	Dysk	Transfer	Cena	Wdróż
BD-8Najtańszy z miejscem na cały stosWygodny dla zespołu: sześć kontenerów, przesłane pliki i indeks wyszukiwania, z zapasem pamięci.	4	8 GB	100 GB	32 TB	$12.90/mies.	Wdróż
BD-12Więcej dysku na przesłane pliki i wektoryDla prawdziwej biblioteki dokumentów do wyszukiwania w plikach i lat zapisanych rozmów.	6	12 GB	200 GB	32 TB	$17.90/mies.	Wdróż
BD-24Duży zespół lub kilku intensywnych użytkownikówDużo pamięci, by MongoDB, Meilisearch i baza wektorowa mogły rosnąć.	8	24 GB	300 GB	32 TB	$31.90/mies.	Wdróż
C2-4-80Mniejszy układ dla jednego lub kilku użytkownikówUruchamia stos; nie uruchamiaj na nim dodatkowo modelu lokalnego ani kompilacji. Wybierz go ze względu na miasto, nie rozmiar.	2	4 GB	80 GB	3 TB	$37.90/mies.	Wdróż
C4-8-160Wygodny rozmiar, gdy miasta z najtańszego wiersza Ci nie odpowiadająTen sam układ co w najtańszym wierszu, dla zespołu, który potrzebuje innego miasta.	4	8 GB	160 GB	3 TB	$75.90/mies.	Wdróż

Nie ma jeszcze gotowego skryptu startowego dla LibreChat: instalacja to poniższe kroki, wpisywane przez Ciebie. To polecenia z dokumentacji LibreChat oraz sekrety, których wymaga jej plik compose.

Instalacja

Cztery kroki z dokumentacji LibreChat

Docker, stos compose, pierwsze konto, potem modele. Zarejestruj własne konto, gdy tylko stos się uruchomi: pierwsze utworzone konto zostaje administratorem.

Docker. curl -fsSL https://get.docker.com | sh Następnie sprawdź, czy docker compose version odpowiada.
Sklonuj i skonfiguruj. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env W .env ustaw MEILI_MASTER_KEY (co najmniej 16 znaków) oraz ADMIN_PANEL_SESSION_SECRET, bez którego panel administracyjny się nie uruchomi. Jeśli kontenery zgłaszają błędy uprawnień, ustaw UID i GID na użytkownika uruchamiającego compose.
Uruchom i zarejestruj się jako pierwszy. docker compose up -d docker compose ps powinno pokazać wszystkie sześć działających kontenerów. Otwórz http://your-ip:3080 i kliknij Register: nie ma domyślnego użytkownika. Dopóki nie ma HTTPS, trzymaj porty 3080 i 3000 za zaporą i łącz się z aplikacją przez SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
Dodaj modele, potem domenę. Wpisz OPENAI_API_KEY, ANTHROPIC_API_KEY i GOOGLE_KEY w .env albo pozostaw je jako user_provided, aby każdy użytkownik podał własny klucz. Dla modelu lokalnego dodaj endpoint Ollama w librechat.yaml; z wnętrza kontenera adres to host.docker.internal, a nie localhost. Dla HTTPS skieruj rekord A na serwer, postaw przed nim reverse proxy i ustaw w .env DOMAIN_CLIENT oraz DOMAIN_SERVER na adres publiczny. Gdy Twoi użytkownicy się zarejestrują, ustaw ALLOW_REGISTRATION na false.

Szczerze

Co kupilibyśmy sami

LibreChat nie podaje minimum i uruchamia sześć kontenerów. Kup maszynę 8 GB.

Dla LibreChat i zespołu

BD-8 · $12.90/mies.

4 vCPU, 8 GB i 100 GB za $12.90: cały oficjalny stos z zapasem pamięci na rozrost MongoDB, Meilisearch i bazy wektorowej, dyskiem na przesłane pliki i CPU do tworzenia embeddingów dokumentów bez zacinania się czatu. Modele działają gdzie indziej, za kluczem API, więc ta maszyna nigdy nie potrzebuje GPU. Jeśli potrzebujesz miasta, którego nie ma w najtańszym wierszu, C4-8-160 za $75.90 to ten sam układ w innych lokalizacjach.

Wdróż BD-8 C4-8-160 w większej liczbie miast

Pytania

O co ludzie pytają przed zakupem.

Jakie są wymagania systemowe LibreChat?

Jej dokumentacja żadnych nie publikuje. Poradnik Docker wymienia Git i Docker jako wymagania wstępne i nie mówi nic o RAM, CPU ani dysku. Możemy natomiast przeczytać oficjalny plik compose, który uruchamia sześć kontenerów: aplikację LibreChat, panel administracyjny, MongoDB, Meilisearch, bazę pgvector i RAG API. Rozmiary na tej stronie są nasze, wyprowadzone z tego stosu, i tabela to zaznacza. Przy maszynie 8 GB zespołowi przestaje być ciasno.

Czy LibreChat potrzebuje GPU?

Nie. LibreChat to interfejs: wywołuje skonfigurowany model przez klucz API dla OpenAI, Anthropic, Google i innych albo przez własny endpoint, taki jak Ollama. Jeśli chcesz też hostować model samodzielnie, to osobna maszyna i osobna kwestia: strona Ollama dobiera rozmiar do inferencji na CPU według modelu, a interaktywną szybkość zapewnia linia GPU.

Jakich portów używa?

Plik compose publikuje aplikację na porcie PORT z .env, domyślnie 3080, a panel administracyjny na 3000. MongoDB, Meilisearch, baza wektorowa i RAG API nie są publikowane i pozostają w sieci compose. Aplikacja działa po zwykłym HTTP, więc trzymaj porty 3080 i 3000 za zaporą, dopóki reverse proxy nie zapewni HTTPS, i najpierw zarejestruj własne konto: pierwsze utworzone zostaje administratorem.

Jakich kluczy API potrzebuję?

Żadne do uruchomienia stosu i po jednym na każdego dostawcę, z którego chcesz korzystać. OPENAI_API_KEY, ANTHROPIC_API_KEY i GOOGLE_KEY mają w .env.example domyślnie wartość user_provided, co oznacza, że każdy użytkownik podaje własny klucz w interfejsie; wpisz tam prawdziwy klucz, aby zamiast tego współdzielić jeden dla wszystkich. Wyszukiwanie w plikach to osobna sprawa: RAG API domyślnie używa embeddingów OpenAI, a RAG_OPENAI_API_KEY zastępuje dla niego OPENAI_API_KEY, więc wyszukiwanie w plikach wymaga klucza do embeddingów, chyba że zmienisz dostawcę.

Jak używać z nią modeli lokalnych?

Dodaj własny endpoint w librechat.yaml wskazujący na serwer zgodny z OpenAI, taki jak Ollama, pod adresem /v1/ na porcie 11434. Poradnik LibreChat zaleca używanie host.docker.internal zamiast localhost, gdy LibreChat działa w kontenerze, i podaje, że Ollama ignoruje klucz API, ale pole nie może być puste. Jeśli model nie jest mały, uruchom go na osobnej maszynie; maszyny na tej stronie są dobrane do interfejsu.

LibreChat, Open WebUI czy Dify?

LibreChat i Open WebUI to interfejsy czatu dla wielu modeli, przy czym LibreChat stawia na konta wielu użytkowników, agentów i narzędzia MCP u różnych dostawców hostowanych. Dify to platforma aplikacji LLM: prompty, przepływy pracy i aplikacje RAG, które budujesz i udostępniasz, a nie interfejs czatu dla zespołu. Wszystkie działają na tych samych maszynach i dla każdej mamy osobną stronę.

Jak ją zaktualizować?

Z dokumentacji: docker compose down, usuń stare obrazy, git pull, docker compose pull, a następnie docker compose up. Najpierw wykonaj kopię katalogu data-node (MongoDB), katalogu danych Meilisearch i pliku .env: to rozmowy, indeks wyszukiwania i klucze.

Czytaj dalej