Vai al contenuto

Soluzioni · Interfaccia di chat

Un VPS per Open WebUI

Open WebUI è l'interfaccia di chat self-hosted per Ollama e per qualsiasi API compatibile con OpenAI: account, cronologia, documenti e ricerca web in un'unica scheda del browser. Non pubblica requisiti hardware minimi, quindi le dimensioni indicate qui sono nostre e segnalate come tali. Collegata a un modello ospitato è un'app leggera, e C2-4-80 a $37.90 è più che sufficiente; con l'Ollama che può includere, anche il modello deve stare in memoria, e BD-8 a $12.90 è la macchina più economica che contiene un modello 8B con margine.

Attiva BD-8Confronta tutti i piani

Cosa richiede

Software dalla documentazione, dimensioni con la fonte indicata

Il software e le impostazioni di sicurezza provengono dalla documentazione del progetto stesso. Dove il progetto non pubblica requisiti hardware, le dimensioni indicano di chi sono.

Dal README di Open WebUI e da docs.openwebui.com

  • Installazione con Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main L'interfaccia è in ascolto sulla porta 8080 all'interno del container; la documentazione la mappa sulla 3000 dell'host.
  • Include Ollama? Solo nell'immagine :ollama, che li raggruppa entrambi in un unico container. L'immagine :main no: si collega a un Ollama o a qualsiasi API compatibile con OpenAI che indicate tramite OLLAMA_BASE_URL.
  • L'immagine è un download da 1,66 GB, e il modello di embedding predefinito per la ricerca nei documenti occupa circa 500 MB di RAM per worker. La documentazione non pubblica requisiti minimi di CPU, RAM o disco.
  • Tutto ciò che create risiede nel volume /app/backend/data; la documentazione avverte di non eseguirlo mai senza. Il primo account che create diventa l'amministratore, e la registrazione si chiude una volta che esiste.

Dimensioni (nostre: la documentazione non pubblica un minimo)

Dimensionamento per carico di lavoro
Carico di lavorovCPURAM
Open WebUI con un'API ospitata o un Ollama separatoNostra. L'immagine, l'app e l'embedder per la ricerca nei documenti ci stanno con margine; qualche utente in chat.24 GB
Open WebUI con Ollama incluso e un modello 8BNostra. Un modello 8B è un download da 4,9 GB e deve stare in memoria accanto all'app. Pochi token al secondo su una CPU.48 GB
Ollama incluso con un modello 14B, o più persone contemporaneamenteNostra. Un modello 14B occupa 9,3 GB; il resto è memoria per l'app, il suo embedder e le chat simultanee.824 GB

I piani adatti

4 macchine, con prezzi in tempo reale

Prima la macchina adatta più economica. Prezzi odierni, al mese, letti dal catalogo.

  • C2-4-80$37.90/mese

    2 vCPU · 4 GB · 80 GB di disco · 3 TB

    Solo modelli ospitati: l'installazione leggera. 2 vCPU / 4 GB / 80 GB. Open WebUI con una chiave API o un Ollama altrove. Sceglietelo per la città, non per la dimensione.

    Attiva
  • BD-8$12.90/mese

    4 vCPU · 8 GB · 100 GB di disco · 32 TB

    Il più economico con spazio per l'Ollama incluso e un modello 8B. 4 vCPU, 8 GB, 100 GB per l'immagine e i download dei modelli. Il doppio della memoria dell'installazione leggera, per il modello.

    Attiva
  • C4-8-160$75.90/mese

    4 vCPU · 8 GB · 160 GB di disco · 3 TB

    La stessa configurazione con 160 GB, in più città. 4 vCPU / 8 GB / 160 GB, per quando le città della riga più economica non fanno per voi o volete una libreria di modelli più grande.

    Attiva
  • BD-24$31.90/mese

    8 vCPU · 24 GB · 300 GB di disco · 32 TB

    8 vCPU / 24 GB per modelli 14B e un team. Un modello 14B e diverse chat simultanee, con disco per una libreria di documenti.

    Attiva

Per Open WebUI non esiste ancora un preset di avvio: l'installazione consiste nei quattro passaggi qui sotto, digitati da Lei. Sono i comandi della sua documentazione ufficiale, con una modifica segnalata.

L'installazione

Quattro passaggi, dalla documentazione di Open WebUI

Docker, il container, l'account amministratore, poi un modello. Eseguite subito il passaggio 3: il primo account creato è l'amministratore.

  1. Docker. curl -fsSL https://get.docker.com | sh Verificatelo con docker --version.
  2. Generate una chiave segreta e avviatelo. Eseguite openssl rand -hex 32 e conservate l'output; la documentazione lo passa come WEBUI_SECRET_KEY. L'unica modifica che apportiamo al loro comando: 127.0.0.1:3000:8080 tiene la porta fuori da internet pubblico finché non avete HTTPS. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Per l'Ollama incluso, sostituite l'immagine con ghcr.io/open-webui/open-webui:ollama e aggiungete -v ollama:/root/.ollama.
  3. Create subito l'amministratore. Dal vostro portatile, ssh -N -L 3000:127.0.0.1:3000 root@your-server poi aprite http://127.0.0.1:3000. La prima schermata propone Create Admin Account; quell'account gestisce ogni impostazione, e la registrazione si disattiva da sola dopo di esso.
  4. Collegate un modello, poi un dominio. In Impostazioni amministratore, Connessioni: aggiungete una chiave API compatibile con OpenAI, oppure l'indirizzo del vostro Ollama. Per un Ollama sullo stesso host, il README indica di usare --network=host con -e OLLAMA_BASE_URL=http://127.0.0.1:11434; la porta diventa quindi 8080. Per HTTPS, mettete davanti un reverse proxy e impostate proxy_buffering off; nel suo blocco location, altrimenti le risposte in streaming arrivano illeggibili.

Onestamente

Cosa acquisteremmo davvero

Il progetto non indica un minimo, quindi scegliete in base al modello, non all'interfaccia.

Per Open WebUI con il proprio Ollama

BD-8 · $12.90/mese

4 vCPU, 8 GB e 100 GB a $12.90: l'immagine da 1.66 GB, l'embedder e un modello 8B in memoria accanto a loro, che risponde a pochi token al secondo su una CPU. È adatto a una persona o a un piccolo team che pone domande con pazienza, non a una sala di persone in attesa. Se tutti i Suoi modelli sono ospitati altrove, C2-4-80 a $37.90 offre la stessa interfaccia a meno. Se servono risposte locali rapide, la risposta onesta è la linea GPU, e l'immagine :cuda è pensata per questo.

Attiva BD-8C2-4-80 solo per modelli ospitati

Domande

Le domande che si pongono prima dell'acquisto.

Quali sono i requisiti di sistema di Open WebUI?
Il progetto non ne pubblica: il README, la guida rapida e la guida alle prestazioni non indicano alcun minimo di CPU, RAM o disco. Dicono però che l'immagine :main è un download da 1,66 GB (176 MB per l'immagine :slim, che esclude lo stack di machine learning incluso) e che il modello di embedding predefinito per la ricerca nei documenti occupa circa 500 MB di RAM per ogni processo worker. Le dimensioni in questa pagina sono nostre, ricavate da quei valori e dal modello che scegliete di eseguire accanto.
Open WebUI include Ollama?
Solo se lo richiedete. L'immagine :ollama raggruppa Open WebUI e Ollama in un unico container, avviato con un secondo volume per i modelli. L'immagine :main no: si collega a un Ollama eseguito altrove, o sulla stessa macchina, e a qualsiasi API compatibile con OpenAI, come provider ospitati o vLLM. La nostra pagina Ollama dimensiona la parte del modello in base alla RAM.
Quale porta utilizza?
L'app è in ascolto sulla porta 8080 all'interno del container, e la documentazione la pubblica come 3000 sull'host con -p 3000:8080. Se usate --network=host per raggiungere un Ollama sulla stessa macchina, la porta è invece 8080. Tenetela su loopback e usate un tunnel SSH finché non esiste l'account admin e non c'è HTTPS davanti, perché il primo account creato è l'amministratore.
Mi serve una GPU?
Non per Open WebUI in sé, che è un'applicazione web. Una GPU conta solo per il modello: l'immagine :cuda lo esegue su una scheda Nvidia, e senza di essa un Ollama incluso o separato risponde sulla CPU, lentamente. Se i modelli sono ospitati dietro una chiave API, non serve alcuna GPU.
Dove si trovano i miei dati e come aggiorno?
Nel volume montato su /app/backend/data: chat, utenti e impostazioni, in SQLite per impostazione predefinita. La documentazione dice di non eseguirlo mai senza. Per aggiornare, scaricate la nuova immagine, rimuovete il container ed eseguite di nuovo lo stesso comando sullo stesso volume e con la stessa chiave segreta. La documentazione consiglia PostgreSQL quando molte persone lo usano contemporaneamente.
Quante persone può servire un VPS?
La documentazione non fornisce un numero. Dice però che le impostazioni predefinite sono adatte all'uso personale: SQLite come database, un archivio vettoriale locale che non è sicuro con più di un worker e un modello di embedding caricato nell'app stessa. Per un team molto attivo indica PostgreSQL, Redis e un servizio di embedding esterno, e spostare gli embedding fuori dalla macchina libera centinaia di megabyte per worker.
Open WebUI, Dify o AnythingLLM?
Open WebUI è l'interfaccia di chat: voi portate i modelli e lei offre agli utenti account, cronologia, documenti e strumenti nel browser. Dify è una piattaforma per creare app e workflow basati su LLM, mentre AnythingLLM ha un proprio design di chat sui documenti. Tutti e tre girano sullo stesso tipo di macchina, e ognuno ha qui una pagina con i propri requisiti.

Continua a leggere

Correlati