Çözümler · Sohbet arayüzü
Open WebUI için VPS
Open WebUI, Ollama ve herhangi bir OpenAI uyumlu API için kendi sunucunuzda barındırılan sohbet arayüzüdür: hesaplar, geçmiş, belgeler ve web araması tek bir tarayıcı sekmesinde. Bir donanım alt sınırı yayımlamaz, bu nedenle buradaki boyutlar bizimdir ve öyle etiketlenmiştir. Barındırılan bir modele yönlendirildiğinde hafif bir uygulamadır ve C2-4-80, $37.90 fazlasıyla yeterlidir; paketleyebildiği Ollama ile modelin de belleğe sığması gerekir ve BD-8, $12.90, bir 8B modeli rahatça taşıyan en ucuz makinedir.
Gereksinimleri
Yazılım belgelerden, boyutlar kaynağıyla etiketli
Yazılım ve güvenlik yaklaşımı, projenin kendi belgelerinden alınmıştır. Projenin donanım değeri yayımlamadığı durumlarda boyutlar, kime ait olduklarını belirtir.
Open WebUI README dosyasından ve docs.openwebui.com adresinden
- Docker ile kurun:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainArayüz konteyner içinde 8080 portunu dinler; belgeler bunu sunucuda 3000'e eşler. - Ollama içeriyor mu? Yalnızca ikisini tek konteynerde birleştiren
:ollamaimajında.:mainimajı içermez:OLLAMA_BASE_URLile gösterdiğiniz bir Ollama'ya ya da herhangi bir OpenAI uyumlu API'ye bağlanır. - İmaj 1,66 GB'lık bir indirmedir ve belge araması için varsayılan embedding modeli işçi başına yaklaşık 500 MB RAM kullanır. Belgeler CPU, RAM veya disk için alt sınır yayımlamaz.
- Oluşturduğunuz her şey
/app/backend/databiriminde tutulur; belgeler onsuz asla çalıştırmamanız konusunda uyarır. Oluşturduğunuz ilk hesap yönetici olur ve bu hesap var olduğunda kayıt kapanır.
Boyutlar (bizim önerimiz: belgeler alt sınır yayımlamıyor)
| İş yükü | vCPU | RAM |
|---|---|---|
| Barındırılan bir API'ye ya da ayrı bir Ollama'ya bağlı Open WebUIBizim önerimiz. İmaj, uygulama ve belge araması için embedder rahatça sığar; sohbet eden birkaç kullanıcı. | 2 | 4 GB |
| Paketli Ollama ve bir 8B modelle Open WebUIBizim önerimiz. Bir 8B model 4,9 GB'lık bir indirmedir ve uygulamanın yanında belleğe sığması gerekir. CPU üzerinde saniyede birkaç token. | 4 | 8 GB |
| 14B modelli paketli Ollama ya da aynı anda birkaç kişiBizim önerimiz. Bir 14B model 9,3 GB'tır; geri kalanı uygulama, embedder'ı ve eşzamanlı sohbetler için bellektir. | 8 | 24 GB |
Uygun planlar
4 makine, canlı fiyatlı
Uygun en ucuz makine önce. Fiyatlar bugünkü aylık fiyatlardır, katalogdan okunur.
- C2-4-80$37.90/ay
2 vCPU · 4 GB · 80 GB disk · 3 TB
Yalnızca barındırılan modeller: hafif kurulum. 2 vCPU / 4 GB / 80 GB. API anahtarıyla ya da başka bir yerdeki Ollama ile Open WebUI. Bunu boyutu için değil, şehri için seçin.
- BD-8$12.90/ay
4 vCPU · 8 GB · 100 GB disk · 32 TB
Paketli Ollama ve bir 8B model için yer olan en ucuz seçenek. 4 vCPU, 8 GB, imaj ve model indirmeleri için 100 GB. Model için hafif kurulumun iki katı bellek.
- C4-8-160$75.90/ay
4 vCPU · 8 GB · 160 GB disk · 3 TB
160 GB ile aynı yapı, daha fazla şehirde. 4 vCPU / 8 GB / 160 GB; en ucuz satırın şehirleri size uymuyorsa ya da daha büyük bir model kütüphanesi istiyorsanız.
- BD-24$31.90/ay
8 vCPU · 24 GB · 300 GB disk · 32 TB
14B modeller ve bir ekip için 8 vCPU / 24 GB. Bir 14B model ve birkaç eşzamanlı sohbet, bir belge kütüphanesi için disk alanıyla.
Open WebUI için henüz bir başlangıç ön ayarı yok: kurulum, aşağıdaki dört adımdan oluşur ve komutları siz yazarsınız. Bunlar kendi belgelerindeki komutlardır, tek bir etiketli değişiklikle.
Kurulum
Open WebUI belgelerinden dört adım
Docker, konteyner, yönetici hesabı, ardından bir model. 3. adımı hemen yapın: oluşturulan ilk hesap yönetici olur.
- Docker.
curl -fsSL https://get.docker.com | shdocker --versionile kontrol edin. - Bir gizli anahtar oluşturun ve başlatın.
openssl rand -hex 32komutunu çalıştırın ve çıktıyı saklayın; belgeler bunu WEBUI_SECRET_KEY olarak iletir. Onların komutunda yaptığımız tek değişiklik:127.0.0.1:3000:8080, HTTPS kurulana kadar portu genel internetten uzak tutar.docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:mainPaketli Ollama için imajıghcr.io/open-webui/open-webui:ollamaile değiştirin ve-v ollama:/root/.ollamaekleyin. - Yönetici hesabını hemen oluşturun. Dizüstü bilgisayarınızdan
ssh -N -L 3000:127.0.0.1:3000 root@your-server, ardındanhttp://127.0.0.1:3000adresini açın. İlk ekran Create Admin Account seçeneğini sunar; bu hesap tüm ayarları yönetir ve kayıt bundan sonra kendiliğinden kapanır. - Önce bir model, sonra bir alan adı bağlayın. Admin settings, Connections bölümünde OpenAI uyumlu bir API anahtarı ya da Ollama'nızın adresini ekleyin. Aynı sunucudaki bir Ollama için README,
--network=hostile-e OLLAMA_BASE_URL=http://127.0.0.1:11434kullanılmasını söylüyor; bu durumda port 8080 olur. HTTPS için önüne bir reverse proxy koyun ve location bloğundaproxy_buffering off;ayarlayın, aksi halde akışla gelen yanıtlar bozuk görünür.
Dürüstçe
Gerçekte ne alırdık
Proje bir alt sınır belirtmiyor, bu yüzden arayüz için değil, model için satın alın.
Kendi Ollama'sıyla Open WebUI için
BD-8 · $12.90/ay
$12.90 fiyatla 4 vCPU, 8 GB ve 100 GB: 1,66 GB'lık imaj, embedder ve yanlarında bellekte bir 8B model; CPU üzerinde saniyede birkaç token ile yanıt verir. Bu, sabırla soru soran bir kişiye ya da küçük bir ekibe uygundur, bekleyen kalabalık bir gruba değil. Tüm modelleriniz barındırılıyorsa C2-4-80, $37.90 aynı arayüzü daha ucuza sunar. Kişilerin hızlı yerel yanıtlara ihtiyacı varsa dürüst cevap GPU serisidir ve :cuda imajı bunun için hazırlanmıştır.
Sorular