Przejdź do treści

Rozwiązania · Interfejs czatu

Serwer VPS dla Open WebUI

Open WebUI to samodzielnie hostowany interfejs czatu dla Ollama i dowolnego API zgodnego z OpenAI: konta, historia, dokumenty i wyszukiwanie w sieci w jednej karcie przeglądarki. Nie publikuje minimalnych wymagań sprzętowych, więc rozmiary tutaj są nasze i tak oznaczone. Podłączone do hostowanego modelu jest lekką aplikacją i C2-4-80 za $37.90 w zupełności wystarczy; z Ollama, którą może zawierać, model musi także zmieścić się w pamięci, a BD-8 za $12.90 to najtańsza maszyna, która mieści model 8B z zapasem.

Czego potrzebuje

Oprogramowanie według dokumentacji, rozmiary z podanym źródłem

Oprogramowanie i zalecenia bezpieczeństwa pochodzą z dokumentacji danego projektu. Tam, gdzie projekt nie podaje wymagań sprzętowych, przy rozmiarach zaznaczamy, czyje to zalecenia.

Z README Open WebUI i docs.openwebui.com

  • Instalacja przez Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main Interfejs nasłuchuje na porcie 8080 wewnątrz kontenera; dokumentacja mapuje go na 3000 na hoście.
  • Czy zawiera Ollama? Tylko w obrazie :ollama, który łączy obie w jednym kontenerze. Obraz :main nie: łączy się z Ollama lub dowolnym API zgodnym z OpenAI, które wskażesz przez OLLAMA_BASE_URL.
  • Obraz to 1.66 GB do pobrania, a domyślny model embeddingów do wyszukiwania w dokumentach zajmuje około 500 MB RAM na workera. Dokumentacja nie publikuje minimum dla CPU, RAM ani dysku.
  • Wszystko, co utworzysz, trafia do wolumenu /app/backend/data; dokumentacja ostrzega, by nigdy nie uruchamiać bez niego. Pierwsze utworzone konto staje się administratorem, a rejestracja zamyka się, gdy ono istnieje.

Rozmiary (nasze: dokumentacja nie publikuje minimum)

Dobór rozmiaru według zastosowania
ObciążenievCPURAM
Open WebUI z hostowanym API lub osobną OllamaNasze. Obraz, aplikacja i model embeddingów do wyszukiwania w dokumentach mieszczą się z zapasem; kilku użytkowników na czacie.24 GB
Open WebUI z wbudowaną Ollama i modelem 8BNasze. Model 8B to 4.9 GB do pobrania i musi zmieścić się w pamięci obok aplikacji. Kilka tokenów na sekundę na CPU.48 GB
Wbudowana Ollama z modelem 14B lub kilka osób narazNasze. Model 14B to 9.3 GB; reszta to pamięć dla aplikacji, jej modelu embeddingów i równoczesnych czatów.824 GB

Pasujące plany

Maszyny: 4, aktualne ceny

Najpierw najtańsza pasująca maszyna. Ceny dzisiejsze, miesięczne, z katalogu.

  • C2-4-80$37.90/mies.

    2 vCPU · 4 GB · dysk 80 GB · 3 TB

    Tylko hostowane modele: lekka instalacja. 2 vCPU / 4 GB / 80 GB. Open WebUI z kluczem API lub z Ollama gdzie indziej. Wybierz go ze względu na miasto, nie rozmiar.

  • BD-8$12.90/mies.

    4 vCPU · 8 GB · dysk 100 GB · 32 TB

    Najtańszy z miejscem na wbudowaną Ollama i model 8B. 4 vCPU, 8 GB, 100 GB na obraz i pobrane modele. Dwa razy więcej pamięci niż w lekkiej instalacji, dla modelu.

  • C4-8-160$75.90/mies.

    4 vCPU · 8 GB · dysk 160 GB · 3 TB

    Ta sama konfiguracja ze 160 GB, w większej liczbie miast. 4 vCPU / 8 GB / 160 GB, gdy miasta najtańszego wiersza Ci nie odpowiadają lub chcesz większej biblioteki modeli.

  • BD-24$31.90/mies.

    8 vCPU · 24 GB · dysk 300 GB · 32 TB

    8 vCPU / 24 GB dla modeli 14B i zespołu. Model 14B i kilka równoczesnych czatów, z dyskiem na bibliotekę dokumentów.

Nie ma jeszcze presetu startowego dla Open WebUI: instalacja to cztery poniższe kroki, wpisywane przez Państwa. To polecenia z jego własnej dokumentacji, z jedną oznaczoną zmianą.

Instalacja

Cztery kroki, z dokumentacji Open WebUI

Docker, kontener, konto administratora, potem model. Krok 3 wykonaj od razu: pierwsze utworzone konto jest kontem administratora.

  1. Docker. curl -fsSL https://get.docker.com | sh Sprawdź poleceniem docker --version.
  2. Wygeneruj tajny klucz i uruchom. Uruchom openssl rand -hex 32 i zachowaj wynik; dokumentacja przekazuje go jako WEBUI_SECRET_KEY. Nasza jedyna zmiana w ich poleceniu: 127.0.0.1:3000:8080 trzyma port z dala od publicznego internetu, dopóki nie masz HTTPS. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Dla wbudowanej Ollama zamień obraz na ghcr.io/open-webui/open-webui:ollama i dodaj -v ollama:/root/.ollama.
  3. Utwórz administratora od razu. Z laptopa: ssh -N -L 3000:127.0.0.1:3000 root@your-server, potem otwórz http://127.0.0.1:3000. Pierwszy ekran proponuje Create Admin Account; to konto zarządza wszystkimi ustawieniami, a rejestracja po nim sama się wyłącza.
  4. Podłącz model, potem domenę. W ustawieniach administratora, w sekcji Connections: dodaj klucz API zgodny z OpenAI lub adres swojej Ollama. Dla Ollama na tym samym hoście README zaleca użycie --network=host z -e OLLAMA_BASE_URL=http://127.0.0.1:11434; port zmienia się wtedy na 8080. Dla HTTPS postaw przed nią reverse proxy i ustaw proxy_buffering off; w jego bloku location, inaczej strumieniowane odpowiedzi dotrą zniekształcone.

Szczerze

Co kupilibyśmy sami

Projekt nie podaje minimum, więc kupuj pod model, nie pod interfejs.

Dla Open WebUI z własną Ollama

BD-8 · $12.90/mies.

4 vCPU, 8 GB i 100 GB za $12.90: obraz 1,66 GB, model embeddingów i model 8B w pamięci obok nich, odpowiadający z prędkością kilku tokenów na sekundę na CPU. To wystarczy jednej osobie lub małemu zespołowi, który pyta cierpliwie, a nie całej sali czekających ludzi. Jeśli wszystkie Państwa modele są hostowane, C2-4-80 za $37.90 to ten sam interfejs taniej. Jeśli ludzie potrzebują szybkich lokalnych odpowiedzi, uczciwą odpowiedzią jest linia GPU, a obraz :cuda jest do tego przygotowany.

Pytania

O co ludzie pytają przed zakupem.

Jakie są wymagania systemowe Open WebUI?
Projekt nie publikuje żadnych: jego README, szybki start i przewodnik po wydajności nie podają minimum dla CPU, RAM ani dysku. Mówią natomiast, że obraz :main to pobranie o wielkości 1,66 GB (176 MB dla obrazu :slim, który pomija dołączony stos uczenia maszynowego), a domyślny model embeddingów do wyszukiwania w dokumentach zajmuje około 500 MB RAM na każdy proces roboczy. Rozmiary na tej stronie są nasze, wyprowadzone z tych liczb i z modelu, który zdecydują się Państwo uruchomić obok.
Czy Open WebUI zawiera Ollama?
Tylko jeśli o to poprosisz. Obraz :ollama łączy Open WebUI i Ollama w jednym kontenerze, uruchamianym z drugim wolumenem na modele. Obraz :main nie: łączy się z Ollama uruchomioną gdzie indziej lub na tej samej maszynie oraz z dowolnym API zgodnym z OpenAI, takim jak dostawcy hostowani czy vLLM. Nasza strona o Ollama dobiera stronę modelu według RAM.
Jakiego portu używa?
Aplikacja nasłuchuje na 8080 wewnątrz kontenera, a dokumentacja publikuje ją jako 3000 na hoście przez -p 3000:8080. Jeśli używasz --network=host, aby dotrzeć do Ollama na tej samej maszynie, portem jest 8080. Trzymaj go na loopback i używaj tunelu SSH, dopóki nie istnieje konto administratora i nie masz HTTPS, bo pierwsze utworzone konto zostaje administratorem.
Czy potrzebuję GPU?
Nie dla samego Open WebUI, które jest aplikacją webową. GPU ma znaczenie tylko dla modelu: obraz :cuda uruchamia go na karcie Nvidia, a bez niej wbudowana lub osobna Ollama odpowiada na CPU, wolno. Jeśli modele są hostowane za kluczem API, GPU w ogóle nie jest potrzebne.
Gdzie są moje dane i jak aktualizować?
W wolumenie zamontowanym w /app/backend/data: czaty, użytkownicy i ustawienia, domyślnie w SQLite. Dokumentacja mówi, by nigdy nie uruchamiać bez niego. Aby zaktualizować, pobierz nowy obraz, usuń kontener i uruchom to samo polecenie ponownie z tym samym wolumenem i tym samym tajnym kluczem. Dokumentacja zaleca PostgreSQL, gdy korzysta z niego jednocześnie wiele osób.
Ile osób może obsłużyć jeden VPS?
Dokumentacja nie podaje liczby. Mówi natomiast, że ustawienia domyślne nadają się do użytku osobistego: SQLite jako baza danych, lokalna baza wektorowa, która nie jest bezpieczna przy więcej niż jednym workerze, oraz model embeddingów ładowany do samej aplikacji. Dla zapracowanego zespołu wskazuje PostgreSQL, Redis i zewnętrzną usługę embeddingów, a przeniesienie embeddingów poza maszynę zwalnia setki megabajtów na workera.
Open WebUI, Dify czy AnythingLLM?
Open WebUI to interfejs czatu: Ty dostarczasz modele, a on daje ludziom konta, historię, dokumenty i narzędzia w przeglądarce. Dify to platforma do budowania aplikacji i przepływów LLM, a AnythingLLM ma własną koncepcję czatu z dokumentami. Wszystkie trzy działają na tym samym typie maszyny i każdy ma tu swoją stronę z własnymi wymaganiami.