Giải pháp · Giao diện chat
VPS cho Open WebUI
Open WebUI là giao diện chat tự lưu trữ cho Ollama và mọi API tương thích OpenAI: tài khoản, lịch sử, tài liệu và tìm kiếm web trong một tab trình duyệt. Dự án không công bố cấu hình phần cứng tối thiểu, nên các cấu hình ở đây là của chúng tôi và được ghi rõ. Khi dùng mô hình lưu trữ bên ngoài, đây là ứng dụng nhẹ, và C2-4-80 giá $37.90 là quá đủ; với Ollama đi kèm, mô hình cũng phải nằm vừa trong bộ nhớ, và BD-8 giá $12.90 là máy rẻ nhất chứa được mô hình 8B mà vẫn dư chỗ.
Những gì nó cần
Phần mềm theo tài liệu chính thức, cấu hình ghi rõ nguồn
Phần mềm và cách thiết lập bảo mật lấy từ tài liệu của chính dự án. Khi dự án không công bố thông số phần cứng, cấu hình sẽ ghi rõ con số đó là của ai.
Theo README của Open WebUI và docs.openwebui.com
- Cài đặt bằng Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainGiao diện lắng nghe trên cổng 8080 bên trong container; tài liệu ánh xạ nó ra cổng 3000 trên máy chủ. - Có bao gồm Ollama không? Chỉ trong image
:ollama, gộp cả hai trong một container. Image:mainthì không: nó kết nối tới Ollama hoặc bất kỳ API tương thích OpenAI nào bạn chỉ định, quaOLLAMA_BASE_URL. - Image có dung lượng tải về 1.66 GB, và mô hình embedding mặc định cho tìm kiếm tài liệu dùng khoảng 500 MB RAM mỗi worker. Tài liệu không công bố mức tối thiểu cho CPU, RAM hay ổ đĩa.
- Mọi thứ bạn tạo đều nằm trong volume
/app/backend/data; tài liệu cảnh báo không bao giờ chạy mà thiếu nó. Tài khoản đầu tiên bạn tạo sẽ trở thành quản trị viên, và chức năng đăng ký đóng lại khi tài khoản đó tồn tại.
Cấu hình (của chúng tôi: tài liệu không công bố mức tối thiểu)
| Khối lượng công việc | vCPU | RAM |
|---|---|---|
| Open WebUI với API lưu trữ bên ngoài hoặc Ollama riêng biệtCủa chúng tôi. Image, ứng dụng và embedder cho tìm kiếm tài liệu vừa đủ và còn dư; vài người dùng chat. | 2 | 4 GB |
| Open WebUI với Ollama đi kèm và mô hình 8BCủa chúng tôi. Mô hình 8B có dung lượng tải về 4.9 GB và phải nằm vừa trong bộ nhớ cùng ứng dụng. Vài token mỗi giây trên CPU. | 4 | 8 GB |
| Ollama đi kèm với mô hình 14B, hoặc nhiều người dùng cùng lúcCủa chúng tôi. Mô hình 14B nặng 9.3 GB; phần còn lại là bộ nhớ cho ứng dụng, embedder và các cuộc chat đồng thời. | 8 | 24 GB |
Các gói phù hợp
4 máy, giá trực tiếp
Máy phù hợp rẻ nhất trước. Giá là giá hôm nay, theo tháng, lấy từ danh mục.
- C2-4-80$37.90/tháng
2 vCPU · 4 GB · 80 GB ổ đĩa · 3 TB
Chỉ mô hình lưu trữ bên ngoài: cài đặt nhẹ. 2 vCPU / 4 GB / 80 GB. Open WebUI với API key hoặc một Ollama ở nơi khác. Hãy chọn vì thành phố, không phải vì cấu hình.
- BD-8$12.90/tháng
4 vCPU · 8 GB · 100 GB ổ đĩa · 32 TB
Rẻ nhất mà vẫn đủ chỗ cho Ollama đi kèm và một mô hình 8B. 4 vCPU, 8 GB, 100 GB cho image và các bản tải mô hình. Gấp đôi bộ nhớ của bản cài nhẹ, dành cho mô hình.
- C4-8-160$75.90/tháng
4 vCPU · 8 GB · 160 GB ổ đĩa · 3 TB
Cùng cấu hình với 160 GB, ở nhiều thành phố hơn. 4 vCPU / 8 GB / 160 GB, khi các thành phố của dòng rẻ nhất không phù hợp với bạn hoặc bạn muốn thư viện mô hình lớn hơn.
- BD-24$31.90/tháng
8 vCPU · 24 GB · 300 GB ổ đĩa · 32 TB
8 vCPU / 24 GB cho mô hình 14B và một nhóm. Một mô hình 14B và nhiều cuộc chat đồng thời, cùng dung lượng ổ đĩa cho thư viện tài liệu.
Hiện chưa có preset khởi động cho Open WebUI: việc cài đặt là bốn bước bên dưới, do bạn tự nhập. Đó là các lệnh từ chính tài liệu của nó, với một thay đổi được ghi rõ.
Cài đặt
Bốn bước, theo tài liệu Open WebUI
Docker, container, tài khoản quản trị, sau đó là mô hình. Hãy làm bước 3 ngay: tài khoản đầu tiên được tạo sẽ là quản trị viên.
- Docker.
curl -fsSL https://get.docker.com | shKiểm tra bằngdocker --version. - Tạo secret key và khởi động. Chạy
openssl rand -hex 32và giữ lại kết quả; tài liệu truyền nó dưới dạng WEBUI_SECRET_KEY. Thay đổi duy nhất của chúng tôi so với lệnh gốc:127.0.0.1:3000:8080giữ cổng không lộ ra internet công cộng cho đến khi bạn có HTTPS.docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:mainVới Ollama đi kèm, đổi image thànhghcr.io/open-webui/open-webui:ollamavà thêm-v ollama:/root/.ollama. - Tạo tài khoản quản trị ngay. Từ máy tính của bạn,
ssh -N -L 3000:127.0.0.1:3000 root@your-serverrồi mởhttp://127.0.0.1:3000. Màn hình đầu tiên hiển thị Create Admin Account; tài khoản đó quản lý mọi thiết lập, và chức năng đăng ký sẽ tự tắt sau đó. - Kết nối một mô hình, sau đó là tên miền. Trong Admin settings, mục Connections: thêm API key tương thích OpenAI, hoặc địa chỉ Ollama của bạn. Với Ollama trên cùng máy chủ, README hướng dẫn dùng
--network=hostvới-e OLLAMA_BASE_URL=http://127.0.0.1:11434; khi đó cổng trở thành 8080. Để dùng HTTPS, đặt một reverse proxy phía trước và thiết lậpproxy_buffering off;trong location block của nó, nếu không các câu trả lời dạng stream sẽ bị lỗi hiển thị.
Nói thẳng
Gói chúng tôi thực sự sẽ mua
Dự án không nêu mức tối thiểu, vì vậy hãy chọn máy theo mô hình, không phải theo giao diện.
Cho Open WebUI kèm Ollama riêng
BD-8 · $12.90/tháng
4 vCPU, 8 GB và 100 GB giá $12.90: image 1.66 GB, embedder và một mô hình 8B trong bộ nhớ cùng chúng, trả lời với tốc độ vài token mỗi giây trên CPU. Phù hợp cho một người hoặc một nhóm nhỏ kiên nhẫn chờ, không phải cả phòng người đang đợi. Nếu mọi mô hình của bạn đều lưu trữ bên ngoài, C2-4-80 giá $37.90 cho cùng giao diện với chi phí thấp hơn. Nếu mọi người cần câu trả lời cục bộ nhanh, dòng GPU là câu trả lời thành thật, và image :cuda được xây dựng cho việc đó.
Câu hỏi