Langsung ke konten

Solusi · Antarmuka chat

Sewa VPS untuk Open WebUI

Open WebUI adalah antarmuka chat self-hosted untuk Ollama dan API apa pun yang kompatibel dengan OpenAI: akun, riwayat, dokumen, dan pencarian web dalam satu tab browser. Proyek ini tidak menerbitkan persyaratan minimum perangkat keras, jadi ukuran di sini berasal dari kami dan diberi label. Jika diarahkan ke model yang di-host, ini adalah aplikasi ringan, dan C2-4-80 seharga $37.90 sudah lebih dari cukup; dengan Ollama yang dapat dibundelnya, model juga harus muat di memori, dan BD-8 seharga $12.90 adalah mesin termurah yang dapat memuat model 8B dengan ruang tersisa.

Deploy BD-8Bandingkan setiap paket

Yang dibutuhkan

Perangkat lunak dari dokumentasi, ukuran diberi label sesuai sumbernya

Perangkat lunak dan postur keamanannya berasal dari dokumentasi proyek itu sendiri. Jika proyek tidak menerbitkan angka perangkat keras, ukuran yang ditampilkan menyebutkan sumbernya.

Dari README Open WebUI dan docs.openwebui.com

  • Instal dengan Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main UI mendengarkan di port 8080 di dalam container; dokumentasi memetakannya ke 3000 di host.
  • Apakah menyertakan Ollama? Hanya pada image :ollama, yang menggabungkan keduanya dalam satu container. Image :main tidak: image ini terhubung ke Ollama atau API apa pun yang kompatibel dengan OpenAI yang Anda tunjuk melalui OLLAMA_BASE_URL.
  • Image berukuran unduhan 1.66 GB, dan model embedding default untuk pencarian dokumen memakan sekitar 500 MB RAM per worker. Dokumentasi tidak menerbitkan minimum untuk CPU, RAM, atau disk.
  • Semua yang Anda buat disimpan di volume /app/backend/data; dokumentasi memperingatkan agar jangan pernah menjalankannya tanpa volume itu. Akun pertama yang Anda buat menjadi administrator, dan pendaftaran ditutup setelah akun itu ada.

Ukuran (dari kami: dokumentasi tidak menerbitkan minimum)

Penentuan ukuran berdasarkan beban kerja
Beban kerjavCPURAM
Open WebUI dengan API yang di-host atau Ollama terpisahDari kami. Image, aplikasi, dan embedder untuk pencarian dokumen muat dengan ruang tersisa; beberapa pengguna yang mengobrol.24 GB
Open WebUI dengan Ollama bawaan dan model 8BDari kami. Model 8B berukuran unduhan 4.9 GB dan harus muat di memori bersama aplikasi. Beberapa token per detik di CPU.48 GB
Ollama bawaan dengan model 14B, atau beberapa orang sekaligusDari kami. Model 14B berukuran 9.3 GB; sisanya adalah memori untuk aplikasi, embedder-nya, dan chat bersamaan.824 GB

Paket yang cocok

4 mesin, dengan harga terkini

Mesin termurah yang memadai lebih dulu. Harga adalah harga hari ini, per bulan, dibaca dari katalog.

  • C2-4-80$37.90/bln

    2 vCPU · 4 GB · disk 80 GB · 3 TB

    Hanya model yang di-host: instalasi ringan. 2 vCPU / 4 GB / 80 GB. Open WebUI dengan kunci API atau Ollama di tempat lain. Pilih karena kotanya, bukan ukurannya.

    Deploy
  • BD-8$12.90/bln

    4 vCPU · 8 GB · disk 100 GB · 32 TB

    Termurah dengan ruang untuk Ollama bawaan dan model 8B. 4 vCPU, 8 GB, 100 GB untuk image dan unduhan model. Memori dua kali lipat dari instalasi ringan, untuk model.

    Deploy
  • C4-8-160$75.90/bln

    4 vCPU · 8 GB · disk 160 GB · 3 TB

    Konfigurasi yang sama dengan 160 GB, di lebih banyak kota. 4 vCPU / 8 GB / 160 GB, untuk saat kota-kota pada baris termurah tidak cocok bagi Anda atau Anda menginginkan koleksi model yang lebih besar.

    Deploy
  • BD-24$31.90/bln

    8 vCPU · 24 GB · disk 300 GB · 32 TB

    8 vCPU / 24 GB untuk model 14B dan sebuah tim. Model 14B dan beberapa chat bersamaan, dengan disk untuk koleksi dokumen.

    Deploy

Belum ada preset startup untuk Open WebUI: instalasinya berupa empat langkah di bawah ini, yang Anda ketik sendiri. Itu adalah perintah dari dokumentasinya sendiri, dengan satu perubahan yang diberi keterangan.

Instalasi

Empat langkah, dari dokumentasi Open WebUI

Docker, container, akun admin, lalu model. Lakukan langkah 3 segera: akun pertama yang dibuat menjadi administrator.

  1. Docker. curl -fsSL https://get.docker.com | sh Periksa dengan docker --version.
  2. Buat secret key dan jalankan. Jalankan openssl rand -hex 32 dan simpan hasilnya; dokumentasi meneruskannya sebagai WEBUI_SECRET_KEY. Satu perubahan kami pada perintah mereka: 127.0.0.1:3000:8080 menjaga port tetap tidak terbuka ke internet publik sampai Anda memiliki HTTPS. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Untuk Ollama bawaan, ganti image dengan ghcr.io/open-webui/open-webui:ollama dan tambahkan -v ollama:/root/.ollama.
  3. Buat admin sekarang. Dari laptop Anda, ssh -N -L 3000:127.0.0.1:3000 root@your-server lalu buka http://127.0.0.1:3000. Layar pertama menawarkan Create Admin Account; akun itu mengelola semua pengaturan, dan pendaftaran otomatis dinonaktifkan setelahnya.
  4. Hubungkan model, lalu domain. Di Admin settings, Connections: tambahkan kunci API yang kompatibel dengan OpenAI, atau alamat Ollama Anda. Untuk Ollama di host yang sama, README menyarankan menggunakan --network=host dengan -e OLLAMA_BASE_URL=http://127.0.0.1:11434; port-nya kemudian menjadi 8080. Untuk HTTPS, pasang reverse proxy di depannya dan atur proxy_buffering off; di blok location-nya, atau jawaban yang di-stream akan tiba berantakan.

Terus terang

Yang benar-benar akan kami beli

Proyek ini tidak menyebutkan minimum, jadi belilah untuk model, bukan untuk antarmukanya.

Untuk Open WebUI dengan Ollama-nya sendiri

BD-8 · $12.90/bln

4 vCPU, 8 GB, dan 100 GB seharga $12.90: image 1.66 GB, embedder, dan model 8B di memori di sampingnya, yang menjawab beberapa token per detik di CPU. Itu cocok untuk satu orang atau tim kecil yang bertanya dengan sabar, bukan untuk banyak orang yang menunggu. Jika semua model Anda di-hosting pihak lain, C2-4-80 seharga $37.90 memberi antarmuka yang sama dengan harga lebih rendah. Jika orang membutuhkan jawaban lokal yang cepat, lini GPU adalah jawaban yang jujur, dan image :cuda dibuat untuk itu.

Deploy BD-8C2-4-80 hanya untuk model yang di-host

Pertanyaan

Pertanyaan orang sebelum membelinya.

Apa saja persyaratan sistem Open WebUI?
Proyek ini tidak memublikasikannya: README, panduan mulai cepat, dan panduan performanya tidak menyebutkan batas minimum CPU, RAM, atau disk. Yang disebutkan adalah bahwa image :main berukuran unduhan 1.66 GB (176 MB untuk image :slim, yang tidak menyertakan stack machine learning bawaan), dan bahwa model embedding default untuk pencarian dokumen memakan sekitar 500 MB RAM untuk setiap proses worker. Ukuran di halaman ini adalah ukuran dari kami, yang kami turunkan dari angka-angka tersebut dan dari model yang Anda pilih untuk dijalankan di sampingnya.
Apakah Open WebUI menyertakan Ollama?
Hanya jika Anda memintanya. Image :ollama menggabungkan Open WebUI dan Ollama dalam satu container, dijalankan dengan volume kedua untuk model. Image :main tidak: image ini terhubung ke Ollama yang Anda jalankan di tempat lain atau di mesin yang sama, dan ke API apa pun yang kompatibel dengan OpenAI, seperti penyedia hosting atau vLLM. Halaman Ollama kami menentukan ukuran sisi model berdasarkan RAM.
Port mana yang digunakan?
Aplikasi mendengarkan di 8080 di dalam container, dan dokumentasi menerbitkannya sebagai 3000 di host dengan -p 3000:8080. Jika Anda menggunakan --network=host untuk menjangkau Ollama di mesin yang sama, port-nya menjadi 8080. Biarkan di loopback dan gunakan tunnel SSH sampai akun admin ada dan HTTPS terpasang di depannya, karena akun pertama yang dibuat menjadi administrator.
Apakah saya memerlukan GPU?
Tidak untuk Open WebUI itu sendiri, yang merupakan aplikasi web. GPU hanya penting untuk model: image :cuda menjalankannya pada kartu Nvidia, dan tanpa kartu itu, Ollama bawaan atau terpisah menjawab menggunakan CPU, dengan lambat. Jika model di-host di balik kunci API, GPU sama sekali tidak terlibat.
Di mana data saya, dan bagaimana cara memperbaruinya?
Di volume yang di-mount pada /app/backend/data: chat, pengguna, dan pengaturan, secara default dalam SQLite. Dokumentasi menyatakan agar jangan pernah menjalankannya tanpa volume itu. Untuk memperbarui, tarik image baru, hapus container, lalu jalankan perintah yang sama lagi dengan volume yang sama dan secret key yang sama. Dokumentasi merekomendasikan PostgreSQL begitu banyak orang menggunakannya secara bersamaan.
Berapa banyak orang yang dapat dilayani satu VPS?
Dokumentasi tidak memberikan angka. Dokumentasi memang menyebutkan bahwa pengaturan default cocok untuk penggunaan pribadi: SQLite untuk database, vector store lokal yang tidak aman dengan lebih dari satu worker, dan model embedding yang dimuat di dalam aplikasi itu sendiri. Untuk tim yang sibuk, dokumentasi mengarahkan ke PostgreSQL, Redis, dan layanan embedding eksternal, dan memindahkan embedding dari mesin membebaskan ratusan megabyte per worker.
Open WebUI, Dify, atau AnythingLLM?
Open WebUI adalah antarmuka chat: Anda menyediakan model, dan ia memberi orang akun, riwayat, dokumen, serta alat di browser. Dify adalah platform untuk membangun aplikasi dan alur kerja LLM, dan AnythingLLM memiliki desain chat dokumennya sendiri. Ketiganya berjalan di jenis mesin yang sama, dan masing-masing memiliki halaman di sini dengan persyaratannya sendiri.

Baca selanjutnya

Terkait