Spring til indhold

Løsninger · Chatgrænseflade

En VPS til Open WebUI

Open WebUI er den selvhostede chatgrænseflade til Ollama og enhver OpenAI-kompatibel API: konti, historik, dokumenter og websøgning i én browserfane. Projektet offentliggør intet hardwareminimum, så størrelserne her er vores egne og mærket som sådan. Peget mod en hostet model er den en let app, og C2-4-80 til $37.90 er rigeligt; med den Ollama, den kan medbringe, skal modellen også kunne være i hukommelsen, og BD-8 til $12.90 er den billigste maskine, der kan rumme en 8B-model med plads til overs.

Udrul BD-8Sammenlign alle planer

Hvad den kræver

Software fra dokumentationen, størrelser mærket efter kilde

Softwaren og sikkerhedsopsætningen kommer fra projektets egen dokumentation. Hvor projektet ikke oplyser hardwarekrav, står det ved størrelserne, hvis tal de er.

Fra Open WebUI's README og docs.openwebui.com

  • Installer med Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main Brugerfladen lytter på port 8080 inde i containeren; dokumentationen mapper den til 3000 på hosten.
  • Indeholder den Ollama? Kun i :ollama-imaget, som samler begge i én container. :main-imaget gør ikke: det forbinder til en Ollama eller en hvilken som helst OpenAI-kompatibel API, du peger det mod, via OLLAMA_BASE_URL.
  • Imaget er en download på 1.66 GB, og standard-embeddingmodellen til dokumentsøgning bruger ca. 500 MB RAM pr. worker. Dokumentationen offentliggør intet minimum for CPU, RAM eller disk.
  • Alt, hvad du opretter, ligger i /app/backend/data-volumet; dokumentationen advarer mod nogensinde at køre uden det. Den første konto, du opretter, bliver administrator, og tilmelding lukkes, når den findes.

Størrelser (vores: dokumentationen offentliggør intet minimum)

Dimensionering efter anvendelse
ArbejdsbyrdevCPURAM
Open WebUI mod en hostet API eller en separat OllamaVores. Imaget, appen og embedderen til dokumentsøgning kan være der med plads til overs; en håndfuld brugere, der chatter.24 GB
Open WebUI med medfølgende Ollama og en 8B-modelVores. En 8B-model er en download på 4.9 GB og skal kunne være i hukommelsen ved siden af appen. Nogle få tokens i sekundet på en CPU.48 GB
Medfølgende Ollama med en 14B-model eller flere personer på én gangVores. En 14B-model fylder 9.3 GB; resten er hukommelse til appen, dens embedder og samtidige chats.824 GB

De planer, der passer

4 maskiner, aktuelt prissat

Billigste passende maskine først. Priserne er dagens, pr. måned, hentet fra kataloget.

  • C2-4-80$37.90/md.

    2 vCPU · 4 GB · 80 GB disk · 3 TB

    Kun hostede modeller: den lette installation. 2 vCPU / 4 GB / 80 GB. Open WebUI med en API-nøgle eller en Ollama andetsteds. Vælg den for byens skyld, ikke størrelsen.

    Udrul
  • BD-8$12.90/md.

    4 vCPU · 8 GB · 100 GB disk · 32 TB

    Billigste med plads til den medfølgende Ollama og en 8B-model. 4 vCPU, 8 GB, 100 GB til imaget og modeldownloads. Dobbelt så meget hukommelse som den lette installation, til modellen.

    Udrul
  • C4-8-160$75.90/md.

    4 vCPU · 8 GB · 160 GB disk · 3 TB

    Samme opbygning med 160 GB, i flere byer. 4 vCPU / 8 GB / 160 GB, når den billigste rækkes byer ikke passer dig, eller du vil have et større modelbibliotek.

    Udrul
  • BD-24$31.90/md.

    8 vCPU · 24 GB · 300 GB disk · 32 TB

    8 vCPU / 24 GB til 14B-modeller og et team. En 14B-model og flere samtidige chats med disk til et dokumentbibliotek.

    Udrul

Der findes endnu ingen opstartsforudindstilling til Open WebUI: installationen er de fire trin nedenfor, som du selv skriver. Det er kommandoerne fra projektets egen dokumentation med én mærket ændring.

Installationen

Fire trin fra Open WebUI-dokumentationen

Docker, containeren, administratorkontoen og derefter en model. Udfør trin 3 med det samme: den første konto, der oprettes, bliver administrator.

  1. Docker. curl -fsSL https://get.docker.com | sh Kontrollér det med docker --version.
  2. Lav en hemmelig nøgle, og start den. Kør openssl rand -hex 32, og gem outputtet; dokumentationen sender det som WEBUI_SECRET_KEY. Vores eneste ændring af deres kommando: 127.0.0.1:3000:8080 holder porten væk fra det offentlige internet, indtil du har HTTPS. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Til den medfølgende Ollama skal du skifte imaget ud med ghcr.io/open-webui/open-webui:ollama og tilføje -v ollama:/root/.ollama.
  3. Opret administratoren nu. Fra din bærbare: ssh -N -L 3000:127.0.0.1:3000 root@your-server, og åbn derefter http://127.0.0.1:3000. Det første skærmbillede tilbyder Create Admin Account; den konto styrer alle indstillinger, og tilmelding slår sig selv fra bagefter.
  4. Tilslut en model og derefter et domæne. Under Admin settings, Connections: tilføj en OpenAI-kompatibel API-nøgle eller adressen på din Ollama. For en Ollama på samme host siger README'en, at du skal bruge --network=host med -e OLLAMA_BASE_URL=http://127.0.0.1:11434; porten bliver da 8080. Til HTTPS skal du sætte en reverse proxy foran og angive proxy_buffering off; i dens location-blok, ellers ankommer streamede svar forvanskede.

Helt ærligt

Det, vi selv ville købe

Projektet angiver intet minimum, så køb til modellen, ikke til grænsefladen.

Til Open WebUI med sin egen Ollama

BD-8 · $12.90/md.

4 vCPU, 8 GB og 100 GB til $12.90: imaget på 1.66 GB, embedderen og en 8B-model i hukommelsen ved siden af, der svarer med nogle få tokens i sekundet på en CPU. Det passer til én person eller et lille team, der spørger tålmodigt, ikke et rum fuld af ventende mennesker. Hvis alle dine modeller er hostede, er C2-4-80 til $37.90 samme grænseflade for mindre. Hvis folk har brug for hurtige lokale svar, er GPU-linjen det ærlige svar, og :cuda-imaget er bygget til den.

Udrul BD-8C2-4-80 kun til hostede modeller

Spørgsmål

Hvad folk spørger om, før de køber.

Hvad er systemkravene til Open WebUI?
Projektet offentliggør intet: hverken README, quick start eller performance-guide angiver et minimum for CPU, RAM eller disk. Det, de siger, er, at :main-imaget er en download på 1.66 GB (176 MB for :slim-imaget, som udelader den medfølgende machine learning-stak), og at standard-embeddingmodellen til dokumentsøgning bruger ca. 500 MB RAM for hver worker-proces. Størrelserne på denne side er vores egne, udledt af de tal og af den model, du vælger at køre ved siden af.
Indeholder Open WebUI Ollama?
Kun hvis du beder om det. :ollama-imaget samler Open WebUI og Ollama i én container, startet med et ekstra volume til modellerne. :main-imaget gør ikke: det forbinder til en Ollama, du kører andetsteds eller på samme maskine, og til enhver OpenAI-kompatibel API, f.eks. hostede udbydere eller vLLM. Vores Ollama-side dimensionerer modelsiden efter RAM.
Hvilken port bruger den?
Appen lytter på 8080 inde i containeren, og dokumentationen udgiver den som 3000 på hosten med -p 3000:8080. Hvis du bruger --network=host for at nå en Ollama på samme maskine, er porten i stedet 8080. Hold den på loopback, og brug en SSH-tunnel, indtil administratorkontoen findes og HTTPS er sat foran, fordi den første konto, der oprettes, bliver administrator.
Har jeg brug for en GPU?
Ikke til selve Open WebUI, som er en webapp. En GPU har kun betydning for modellen: :cuda-imaget kører den på et Nvidia-kort, og uden et sådant svarer en medfølgende eller separat Ollama på CPU'en, langsomt. Hvis modellerne hostes bag en API-nøgle, er der slet ingen GPU involveret.
Hvor ligger mine data, og hvordan opdaterer jeg?
I volumet monteret på /app/backend/data: chats, brugere og indstillinger, som standard i SQLite. Dokumentationen siger, at du aldrig må køre uden det. For at opdatere skal du hente det nye image, fjerne containeren og køre samme kommando igen på samme volume og med samme hemmelige nøgle. Dokumentationen anbefaler PostgreSQL, når mange bruger den samtidig.
Hvor mange personer kan én VPS betjene?
Dokumentationen giver ikke et tal. Den siger dog, at standardindstillingerne passer til personlig brug: SQLite som database, et lokalt vector store, der ikke er sikkert med mere end én worker, og en embedding-model indlæst i selve appen. Til et travlt team henviser den til PostgreSQL, Redis og en ekstern embedding-tjeneste, og når embeddings flyttes væk fra maskinen, frigøres hundredvis af megabyte pr. worker.
Open WebUI, Dify eller AnythingLLM?
Open WebUI er chatgrænsefladen: du leverer modellerne, og den giver folk konti, historik, dokumenter og værktøjer i browseren. Dify er en platform til at bygge LLM-apps og workflows, og AnythingLLM har sit eget design til dokumentchat. Alle tre kører på samme slags maskine, og hver har en side her med sine egne krav.

Læs videre

Relateret