Naar de inhoud

Oplossingen · Chatinterface

Een VPS voor Open WebUI

Open WebUI is de zelfgehoste chatinterface voor Ollama en elke OpenAI-compatibele API: accounts, geschiedenis, documenten en zoeken op het web in één browsertabblad. Het publiceert geen hardwareminimum, dus de groottes hier zijn van ons en als zodanig aangegeven. Gekoppeld aan een gehost model is het een lichte app, en C2-4-80 voor $37.90 is ruim voldoende; met de Ollama die het kan meeleveren, moet ook het model in het geheugen passen, en BD-8 voor $12.90 is de goedkoopste machine die een 8B-model met ruimte over kan bevatten.

Wat het nodig heeft

Software uit de documentatie, groottes met vermelding van de bron

De software en de beveiligingsaanpak komen uit de eigen documentatie van het project. Waar het project geen hardwarecijfers publiceert, staat bij de groottes van wie ze afkomstig zijn.

Uit de README van Open WebUI en docs.openwebui.com

  • Installeren met Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main De UI luistert binnen de container op poort 8080; de documentatie koppelt die aan 3000 op de host.
  • Bevat het Ollama? Alleen in de :ollama-image, die beide in één container bundelt. De :main-image niet: die maakt verbinding met een Ollama of een OpenAI-compatibele API die je via OLLAMA_BASE_URL opgeeft.
  • De image is een download van 1.66 GB, en het standaard embeddingmodel voor zoeken in documenten gebruikt ongeveer 500 MB RAM per worker. De documentatie publiceert geen minimum voor CPU, RAM of schijf.
  • Alles wat je aanmaakt, staat in het volume /app/backend/data; de documentatie waarschuwt het nooit zonder te draaien. Het eerste account dat je aanmaakt, wordt de beheerder, en registratie sluit zodra het bestaat.

Groottes (van ons: de documentatie publiceert geen minimum)

Groottes per toepassing
WorkloadvCPURAM
Open WebUI met een gehoste API of een aparte OllamaVan ons. De image, de app en de embedder voor zoeken in documenten passen ruim; een handvol gebruikers die chatten.24 GB
Open WebUI met de meegeleverde Ollama en een 8B-modelVan ons. Een 8B-model is een download van 4.9 GB en moet naast de app in het geheugen passen. Een paar tokens per seconde op een CPU.48 GB
Meegeleverde Ollama met een 14B-model, of meerdere mensen tegelijkVan ons. Een 14B-model is 9.3 GB; de rest is geheugen voor de app, de embedder en gelijktijdige chats.824 GB

De passende pakketten

4 machines, actueel geprijsd

Goedkoopste passende machine eerst. Prijzen zijn die van vandaag, per maand, uit de catalogus.

  • C2-4-80$37.90/mnd

    2 vCPU · 4 GB · 80 GB schijf · 3 TB

    Alleen gehoste modellen: de lichte installatie. 2 vCPU / 4 GB / 80 GB. Open WebUI met een API-sleutel of een Ollama elders. Kies het om de stad, niet om de grootte.

  • BD-8$12.90/mnd

    4 vCPU · 8 GB · 100 GB schijf · 32 TB

    Goedkoopste met ruimte voor de meegeleverde Ollama en een 8B-model. 4 vCPU, 8 GB, 100 GB voor de image en de modeldownloads. Twee keer het geheugen van de lichte installatie, voor het model.

  • C4-8-160$75.90/mnd

    4 vCPU · 8 GB · 160 GB schijf · 3 TB

    Dezelfde opzet met 160 GB, in meer steden. 4 vCPU / 8 GB / 160 GB, voor als de steden van de goedkoopste rij je niet passen of je een grotere modelbibliotheek wilt.

  • BD-24$31.90/mnd

    8 vCPU · 24 GB · 300 GB schijf · 32 TB

    8 vCPU / 24 GB voor 14B-modellen en een team. Een 14B-model en meerdere gelijktijdige chats, met schijfruimte voor een documentenbibliotheek.

Er is nog geen opstartpreset voor Open WebUI: de installatie bestaat uit de vier stappen hieronder, die je zelf intypt. Het zijn de commando's uit de eigen documentatie, met één aangegeven wijziging.

De installatie

Vier stappen, uit de documentatie van Open WebUI

Docker, de container, het beheerdersaccount, dan een model. Doe stap 3 meteen: het eerste account dat wordt aangemaakt, is de beheerder.

  1. Docker. curl -fsSL https://get.docker.com | sh Controleer het met docker --version.
  2. Maak een geheime sleutel en start het. Voer openssl rand -hex 32 uit en bewaar de uitvoer; de documentatie geeft die door als WEBUI_SECRET_KEY. Onze enige wijziging aan hun commando: 127.0.0.1:3000:8080 houdt de poort van het openbare internet af totdat je HTTPS hebt. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Voor de meegeleverde Ollama vervang je de image door ghcr.io/open-webui/open-webui:ollama en voeg je -v ollama:/root/.ollama toe.
  3. Maak nu de beheerder aan. Vanaf je laptop: ssh -N -L 3000:127.0.0.1:3000 root@your-server en open daarna http://127.0.0.1:3000. Het eerste scherm biedt Create Admin Account; dat account beheert alle instellingen, en registratie schakelt zichzelf daarna uit.
  4. Koppel een model, daarna een domein. In Admin settings, Connections: voeg een OpenAI-compatibele API-sleutel toe, of het adres van je Ollama. Voor een Ollama op dezelfde host zegt de README dat je --network=host met -e OLLAMA_BASE_URL=http://127.0.0.1:11434 gebruikt; de poort wordt dan 8080. Voor HTTPS zet je er een reverse proxy voor en stel je proxy_buffering off; in het location-blok in, anders komen gestreamde antwoorden verminkt aan.

Eerlijk gezegd

Wat wij zelf zouden kopen

Het project noemt geen minimum, dus koop voor het model, niet voor de interface.

Voor Open WebUI met een eigen Ollama

BD-8 · $12.90/mnd

4 vCPU, 8 GB en 100 GB voor $12.90: de image van 1.66 GB, de embedder en een 8B-model ernaast in het geheugen, dat op een CPU met een paar tokens per seconde antwoordt. Dat past bij één persoon of een klein team dat geduldig vraagt, niet bij een zaal vol wachtende mensen. Als al je modellen gehost zijn, is C2-4-80 voor $37.90 dezelfde interface voor minder. Als mensen snelle lokale antwoorden nodig hebben, is de GPU-lijn het eerlijke antwoord, en de :cuda-image is daarvoor gemaakt.

Vragen

Wat mensen vragen voordat ze er een kopen.

Wat zijn de systeemvereisten van Open WebUI?
Het project publiceert er geen: de README, de quickstart en de prestatiegids geven geen minimum voor CPU, RAM of schijf. Wel staat erin dat de :main-image een download van 1.66 GB is (176 MB voor de :slim-image, die de meegeleverde machine-learningstack weglaat), en dat het standaard embeddingmodel voor zoeken in documenten ongeveer 500 MB RAM per workerproces gebruikt. De groottes op deze pagina zijn van ons, afgeleid van die cijfers en van het model dat je ernaast wilt draaien.
Bevat Open WebUI Ollama?
Alleen als je erom vraagt. De :ollama-image bundelt Open WebUI en Ollama in één container, gestart met een tweede volume voor de modellen. De :main-image niet: die maakt verbinding met een Ollama die je elders of op dezelfde machine draait, en met elke OpenAI-compatibele API, zoals gehoste aanbieders of vLLM. Onze Ollama-pagina bepaalt de grootte voor het model aan de hand van RAM.
Welke poort gebruikt het?
De app luistert binnen de container op 8080, en de documentatie publiceert die als 3000 op de host met -p 3000:8080. Als je --network=host gebruikt om een Ollama op dezelfde machine te bereiken, is de poort 8080. Houd het op loopback en gebruik een SSH-tunnel totdat het beheerdersaccount bestaat en er HTTPS voor staat, want het eerste account dat wordt aangemaakt, is de beheerder.
Heb ik een GPU nodig?
Niet voor Open WebUI zelf, dat een webapp is. Een GPU doet alleen ertoe voor het model: de :cuda-image draait het op een Nvidia-kaart, en zonder kaart antwoordt een meegeleverde of aparte Ollama op de CPU, langzaam. Als de modellen achter een API-sleutel worden gehost, komt er helemaal geen GPU aan te pas.
Waar staan mijn gegevens en hoe werk ik bij?
In het volume dat op /app/backend/data is gekoppeld: chats, gebruikers en instellingen, standaard in SQLite. De documentatie zegt het nooit zonder te draaien. Om bij te werken haal je de nieuwe image op, verwijder je de container en voer je hetzelfde commando opnieuw uit op hetzelfde volume en met dezelfde geheime sleutel. De documentatie raadt PostgreSQL aan zodra veel mensen het tegelijk gebruiken.
Hoeveel mensen kan één VPS bedienen?
De documentatie noemt geen aantal. Wel staat erin dat de standaardinstellingen geschikt zijn voor persoonlijk gebruik: SQLite als database, een lokale vectoropslag die niet veilig is met meer dan één worker, en een embeddingmodel dat in de app zelf wordt geladen. Voor een druk team verwijst ze naar PostgreSQL, Redis en een externe embeddingdienst, en embeddings van de machine afhalen maakt honderden megabytes per worker vrij.
Open WebUI, Dify of AnythingLLM?
Open WebUI is de chatinterface: jij levert de modellen en het geeft mensen accounts, geschiedenis, documenten en tools in de browser. Dify is een platform om LLM-apps en workflows te bouwen, en AnythingLLM heeft een eigen opzet voor chatten met documenten. Alle drie draaien op hetzelfde soort machine, en elk heeft hier een pagina met eigen vereisten.