Oplossingen · Chatinterface
Een VPS voor Open WebUI
Open WebUI is de zelfgehoste chatinterface voor Ollama en elke OpenAI-compatibele API: accounts, geschiedenis, documenten en zoeken op het web in één browsertabblad. Het publiceert geen hardwareminimum, dus de groottes hier zijn van ons en als zodanig aangegeven. Gekoppeld aan een gehost model is het een lichte app, en C2-4-80 voor $37.90 is ruim voldoende; met de Ollama die het kan meeleveren, moet ook het model in het geheugen passen, en BD-8 voor $12.90 is de goedkoopste machine die een 8B-model met ruimte over kan bevatten.
Wat het nodig heeft
Software uit de documentatie, groottes met vermelding van de bron
De software en de beveiligingsaanpak komen uit de eigen documentatie van het project. Waar het project geen hardwarecijfers publiceert, staat bij de groottes van wie ze afkomstig zijn.
Uit de README van Open WebUI en docs.openwebui.com
- Installeren met Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainDe UI luistert binnen de container op poort 8080; de documentatie koppelt die aan 3000 op de host. - Bevat het Ollama? Alleen in de
:ollama-image, die beide in één container bundelt. De:main-image niet: die maakt verbinding met een Ollama of een OpenAI-compatibele API die je viaOLLAMA_BASE_URLopgeeft. - De image is een download van 1.66 GB, en het standaard embeddingmodel voor zoeken in documenten gebruikt ongeveer 500 MB RAM per worker. De documentatie publiceert geen minimum voor CPU, RAM of schijf.
- Alles wat je aanmaakt, staat in het volume
/app/backend/data; de documentatie waarschuwt het nooit zonder te draaien. Het eerste account dat je aanmaakt, wordt de beheerder, en registratie sluit zodra het bestaat.
Groottes (van ons: de documentatie publiceert geen minimum)
| Workload | vCPU | RAM |
|---|---|---|
| Open WebUI met een gehoste API of een aparte OllamaVan ons. De image, de app en de embedder voor zoeken in documenten passen ruim; een handvol gebruikers die chatten. | 2 | 4 GB |
| Open WebUI met de meegeleverde Ollama en een 8B-modelVan ons. Een 8B-model is een download van 4.9 GB en moet naast de app in het geheugen passen. Een paar tokens per seconde op een CPU. | 4 | 8 GB |
| Meegeleverde Ollama met een 14B-model, of meerdere mensen tegelijkVan ons. Een 14B-model is 9.3 GB; de rest is geheugen voor de app, de embedder en gelijktijdige chats. | 8 | 24 GB |
De passende pakketten
4 machines, actueel geprijsd
Goedkoopste passende machine eerst. Prijzen zijn die van vandaag, per maand, uit de catalogus.
- C2-4-80$37.90/mnd
2 vCPU · 4 GB · 80 GB schijf · 3 TB
Alleen gehoste modellen: de lichte installatie. 2 vCPU / 4 GB / 80 GB. Open WebUI met een API-sleutel of een Ollama elders. Kies het om de stad, niet om de grootte.
- BD-8$12.90/mnd
4 vCPU · 8 GB · 100 GB schijf · 32 TB
Goedkoopste met ruimte voor de meegeleverde Ollama en een 8B-model. 4 vCPU, 8 GB, 100 GB voor de image en de modeldownloads. Twee keer het geheugen van de lichte installatie, voor het model.
- C4-8-160$75.90/mnd
4 vCPU · 8 GB · 160 GB schijf · 3 TB
Dezelfde opzet met 160 GB, in meer steden. 4 vCPU / 8 GB / 160 GB, voor als de steden van de goedkoopste rij je niet passen of je een grotere modelbibliotheek wilt.
- BD-24$31.90/mnd
8 vCPU · 24 GB · 300 GB schijf · 32 TB
8 vCPU / 24 GB voor 14B-modellen en een team. Een 14B-model en meerdere gelijktijdige chats, met schijfruimte voor een documentenbibliotheek.
Er is nog geen opstartpreset voor Open WebUI: de installatie bestaat uit de vier stappen hieronder, die je zelf intypt. Het zijn de commando's uit de eigen documentatie, met één aangegeven wijziging.
De installatie
Vier stappen, uit de documentatie van Open WebUI
Docker, de container, het beheerdersaccount, dan een model. Doe stap 3 meteen: het eerste account dat wordt aangemaakt, is de beheerder.
- Docker.
curl -fsSL https://get.docker.com | shControleer het metdocker --version. - Maak een geheime sleutel en start het. Voer
openssl rand -hex 32uit en bewaar de uitvoer; de documentatie geeft die door als WEBUI_SECRET_KEY. Onze enige wijziging aan hun commando:127.0.0.1:3000:8080houdt de poort van het openbare internet af totdat je HTTPS hebt.docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:mainVoor de meegeleverde Ollama vervang je de image doorghcr.io/open-webui/open-webui:ollamaen voeg je-v ollama:/root/.ollamatoe. - Maak nu de beheerder aan. Vanaf je laptop:
ssh -N -L 3000:127.0.0.1:3000 root@your-serveren open daarnahttp://127.0.0.1:3000. Het eerste scherm biedt Create Admin Account; dat account beheert alle instellingen, en registratie schakelt zichzelf daarna uit. - Koppel een model, daarna een domein. In Admin settings, Connections: voeg een OpenAI-compatibele API-sleutel toe, of het adres van je Ollama. Voor een Ollama op dezelfde host zegt de README dat je
--network=hostmet-e OLLAMA_BASE_URL=http://127.0.0.1:11434gebruikt; de poort wordt dan 8080. Voor HTTPS zet je er een reverse proxy voor en stel jeproxy_buffering off;in het location-blok in, anders komen gestreamde antwoorden verminkt aan.
Eerlijk gezegd
Wat wij zelf zouden kopen
Het project noemt geen minimum, dus koop voor het model, niet voor de interface.
Voor Open WebUI met een eigen Ollama
BD-8 · $12.90/mnd
4 vCPU, 8 GB en 100 GB voor $12.90: de image van 1.66 GB, de embedder en een 8B-model ernaast in het geheugen, dat op een CPU met een paar tokens per seconde antwoordt. Dat past bij één persoon of een klein team dat geduldig vraagt, niet bij een zaal vol wachtende mensen. Als al je modellen gehost zijn, is C2-4-80 voor $37.90 dezelfde interface voor minder. Als mensen snelle lokale antwoorden nodig hebben, is de GPU-lijn het eerlijke antwoord, en de :cuda-image is daarvoor gemaakt.
Vragen