Chuyển đến nội dung

Giải pháp · Giao diện chat

VPS cho Open WebUI

Open WebUI là giao diện chat tự lưu trữ cho Ollama và mọi API tương thích OpenAI: tài khoản, lịch sử, tài liệu và tìm kiếm web trong một tab trình duyệt. Dự án không công bố cấu hình phần cứng tối thiểu, nên các cấu hình ở đây là của chúng tôi và được ghi rõ. Khi dùng mô hình lưu trữ bên ngoài, đây là ứng dụng nhẹ, và C2-4-80 giá $37.90 là quá đủ; với Ollama đi kèm, mô hình cũng phải nằm vừa trong bộ nhớ, và BD-8 giá $12.90 là máy rẻ nhất chứa được mô hình 8B mà vẫn dư chỗ.

Những gì nó cần

Phần mềm theo tài liệu chính thức, cấu hình ghi rõ nguồn

Phần mềm và cách thiết lập bảo mật lấy từ tài liệu của chính dự án. Khi dự án không công bố thông số phần cứng, cấu hình sẽ ghi rõ con số đó là của ai.

Theo README của Open WebUI và docs.openwebui.com

  • Cài đặt bằng Docker: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main Giao diện lắng nghe trên cổng 8080 bên trong container; tài liệu ánh xạ nó ra cổng 3000 trên máy chủ.
  • Có bao gồm Ollama không? Chỉ trong image :ollama, gộp cả hai trong một container. Image :main thì không: nó kết nối tới Ollama hoặc bất kỳ API tương thích OpenAI nào bạn chỉ định, qua OLLAMA_BASE_URL.
  • Image có dung lượng tải về 1.66 GB, và mô hình embedding mặc định cho tìm kiếm tài liệu dùng khoảng 500 MB RAM mỗi worker. Tài liệu không công bố mức tối thiểu cho CPU, RAM hay ổ đĩa.
  • Mọi thứ bạn tạo đều nằm trong volume /app/backend/data; tài liệu cảnh báo không bao giờ chạy mà thiếu nó. Tài khoản đầu tiên bạn tạo sẽ trở thành quản trị viên, và chức năng đăng ký đóng lại khi tài khoản đó tồn tại.

Cấu hình (của chúng tôi: tài liệu không công bố mức tối thiểu)

Chọn cấu hình theo mục đích sử dụng
Khối lượng công việcvCPURAM
Open WebUI với API lưu trữ bên ngoài hoặc Ollama riêng biệtCủa chúng tôi. Image, ứng dụng và embedder cho tìm kiếm tài liệu vừa đủ và còn dư; vài người dùng chat.24 GB
Open WebUI với Ollama đi kèm và mô hình 8BCủa chúng tôi. Mô hình 8B có dung lượng tải về 4.9 GB và phải nằm vừa trong bộ nhớ cùng ứng dụng. Vài token mỗi giây trên CPU.48 GB
Ollama đi kèm với mô hình 14B, hoặc nhiều người dùng cùng lúcCủa chúng tôi. Mô hình 14B nặng 9.3 GB; phần còn lại là bộ nhớ cho ứng dụng, embedder và các cuộc chat đồng thời.824 GB

Các gói phù hợp

4 máy, giá trực tiếp

Máy phù hợp rẻ nhất trước. Giá là giá hôm nay, theo tháng, lấy từ danh mục.

  • C2-4-80$37.90/tháng

    2 vCPU · 4 GB · 80 GB ổ đĩa · 3 TB

    Chỉ mô hình lưu trữ bên ngoài: cài đặt nhẹ. 2 vCPU / 4 GB / 80 GB. Open WebUI với API key hoặc một Ollama ở nơi khác. Hãy chọn vì thành phố, không phải vì cấu hình.

  • BD-8$12.90/tháng

    4 vCPU · 8 GB · 100 GB ổ đĩa · 32 TB

    Rẻ nhất mà vẫn đủ chỗ cho Ollama đi kèm và một mô hình 8B. 4 vCPU, 8 GB, 100 GB cho image và các bản tải mô hình. Gấp đôi bộ nhớ của bản cài nhẹ, dành cho mô hình.

  • C4-8-160$75.90/tháng

    4 vCPU · 8 GB · 160 GB ổ đĩa · 3 TB

    Cùng cấu hình với 160 GB, ở nhiều thành phố hơn. 4 vCPU / 8 GB / 160 GB, khi các thành phố của dòng rẻ nhất không phù hợp với bạn hoặc bạn muốn thư viện mô hình lớn hơn.

  • BD-24$31.90/tháng

    8 vCPU · 24 GB · 300 GB ổ đĩa · 32 TB

    8 vCPU / 24 GB cho mô hình 14B và một nhóm. Một mô hình 14B và nhiều cuộc chat đồng thời, cùng dung lượng ổ đĩa cho thư viện tài liệu.

Hiện chưa có preset khởi động cho Open WebUI: việc cài đặt là bốn bước bên dưới, do bạn tự nhập. Đó là các lệnh từ chính tài liệu của nó, với một thay đổi được ghi rõ.

Cài đặt

Bốn bước, theo tài liệu Open WebUI

Docker, container, tài khoản quản trị, sau đó là mô hình. Hãy làm bước 3 ngay: tài khoản đầu tiên được tạo sẽ là quản trị viên.

  1. Docker. curl -fsSL https://get.docker.com | sh Kiểm tra bằng docker --version.
  2. Tạo secret key và khởi động. Chạy openssl rand -hex 32 và giữ lại kết quả; tài liệu truyền nó dưới dạng WEBUI_SECRET_KEY. Thay đổi duy nhất của chúng tôi so với lệnh gốc: 127.0.0.1:3000:8080 giữ cổng không lộ ra internet công cộng cho đến khi bạn có HTTPS. docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main Với Ollama đi kèm, đổi image thành ghcr.io/open-webui/open-webui:ollama và thêm -v ollama:/root/.ollama.
  3. Tạo tài khoản quản trị ngay. Từ máy tính của bạn, ssh -N -L 3000:127.0.0.1:3000 root@your-server rồi mở http://127.0.0.1:3000. Màn hình đầu tiên hiển thị Create Admin Account; tài khoản đó quản lý mọi thiết lập, và chức năng đăng ký sẽ tự tắt sau đó.
  4. Kết nối một mô hình, sau đó là tên miền. Trong Admin settings, mục Connections: thêm API key tương thích OpenAI, hoặc địa chỉ Ollama của bạn. Với Ollama trên cùng máy chủ, README hướng dẫn dùng --network=host với -e OLLAMA_BASE_URL=http://127.0.0.1:11434; khi đó cổng trở thành 8080. Để dùng HTTPS, đặt một reverse proxy phía trước và thiết lập proxy_buffering off; trong location block của nó, nếu không các câu trả lời dạng stream sẽ bị lỗi hiển thị.

Nói thẳng

Gói chúng tôi thực sự sẽ mua

Dự án không nêu mức tối thiểu, vì vậy hãy chọn máy theo mô hình, không phải theo giao diện.

Cho Open WebUI kèm Ollama riêng

BD-8 · $12.90/tháng

4 vCPU, 8 GB và 100 GB giá $12.90: image 1.66 GB, embedder và một mô hình 8B trong bộ nhớ cùng chúng, trả lời với tốc độ vài token mỗi giây trên CPU. Phù hợp cho một người hoặc một nhóm nhỏ kiên nhẫn chờ, không phải cả phòng người đang đợi. Nếu mọi mô hình của bạn đều lưu trữ bên ngoài, C2-4-80 giá $37.90 cho cùng giao diện với chi phí thấp hơn. Nếu mọi người cần câu trả lời cục bộ nhanh, dòng GPU là câu trả lời thành thật, và image :cuda được xây dựng cho việc đó.

Câu hỏi

Những điều mọi người hỏi trước khi mua.

Yêu cầu hệ thống của Open WebUI là gì?
Dự án không công bố: README, hướng dẫn nhanh và hướng dẫn hiệu năng đều không nêu mức tối thiểu cho CPU, RAM hay ổ đĩa. Những gì chúng có nói là image :main có dung lượng tải về 1.66 GB (176 MB với image :slim, vốn bỏ đi bộ machine learning đi kèm), và mô hình embedding mặc định cho tìm kiếm tài liệu dùng khoảng 500 MB RAM cho mỗi tiến trình worker. Các cấu hình trên trang này là của chúng tôi, suy ra từ những số liệu đó và từ mô hình bạn chọn chạy cùng.
Open WebUI có bao gồm Ollama không?
Chỉ khi bạn yêu cầu. Image :ollama gộp Open WebUI và Ollama trong một container, khởi động với volume thứ hai cho các mô hình. Image :main thì không: nó kết nối tới một Ollama bạn chạy ở nơi khác hoặc trên cùng máy, và tới bất kỳ API tương thích OpenAI nào như các nhà cung cấp lưu trữ mô hình hoặc vLLM. Trang Ollama của chúng tôi chọn cấu hình cho phần mô hình theo RAM.
Nó dùng cổng nào?
Ứng dụng lắng nghe trên cổng 8080 bên trong container, và tài liệu công khai nó ra cổng 3000 trên máy chủ bằng -p 3000:8080. Nếu bạn dùng --network=host để kết nối Ollama trên cùng máy, cổng sẽ là 8080. Hãy giữ nó trên loopback và dùng SSH tunnel cho đến khi có tài khoản quản trị và HTTPS phía trước, vì tài khoản đầu tiên được tạo sẽ là quản trị viên.
Tôi có cần GPU không?
Không cần cho bản thân Open WebUI, vốn là một ứng dụng web. GPU chỉ quan trọng với mô hình: image :cuda chạy mô hình trên card Nvidia, và nếu không có card, Ollama đi kèm hoặc riêng biệt sẽ trả lời bằng CPU, chậm. Nếu mô hình được lưu trữ bên ngoài sau một API key thì hoàn toàn không cần GPU.
Dữ liệu của tôi nằm ở đâu, và cập nhật thế nào?
Trong volume được gắn tại /app/backend/data: các cuộc chat, người dùng và thiết lập, mặc định lưu bằng SQLite. Tài liệu nói không bao giờ chạy mà thiếu nó. Để cập nhật, tải image mới, xóa container, rồi chạy lại cùng lệnh đó trên cùng volume và cùng secret key. Tài liệu khuyến nghị dùng PostgreSQL khi có nhiều người dùng cùng lúc.
Một VPS phục vụ được bao nhiêu người?
Tài liệu không đưa ra con số. Tài liệu có nói các thiết lập mặc định phù hợp cho mục đích cá nhân: SQLite làm cơ sở dữ liệu, vector store cục bộ không an toàn khi có nhiều hơn một worker, và mô hình embedding được nạp ngay trong ứng dụng. Với một nhóm đông người dùng, tài liệu chỉ tới PostgreSQL, Redis và dịch vụ embedding bên ngoài, và việc chuyển embedding ra khỏi máy giải phóng hàng trăm megabyte mỗi worker.
Open WebUI, Dify hay AnythingLLM?
Open WebUI là giao diện chat: bạn mang mô hình đến, nó cung cấp cho mọi người tài khoản, lịch sử, tài liệu và công cụ ngay trong trình duyệt. Dify là nền tảng xây dựng ứng dụng và workflow LLM, còn AnythingLLM có thiết kế chat với tài liệu riêng. Cả ba chạy trên cùng loại máy, và mỗi cái đều có trang riêng tại đây với yêu cầu riêng.