โซลูชัน · อินเทอร์เฟซแชต
VPS สำหรับ Open WebUI
Open WebUI คืออินเทอร์เฟซแชตแบบโฮสต์เองสำหรับ Ollama และ API ใดก็ได้ที่เข้ากันได้กับ OpenAI: บัญชี ประวัติ เอกสาร และการค้นหาเว็บ รวมอยู่ในแท็บเบราว์เซอร์เดียว ผู้พัฒนาไม่ได้ระบุสเปกฮาร์ดแวร์ขั้นต่ำ ขนาดที่แสดงที่นี่จึงเป็นของเราเองและมีป้ายกำกับไว้ หากเชื่อมต่อกับโมเดลที่โฮสต์ไว้ภายนอก ตัวแอปใช้ทรัพยากรน้อย และ C2-4-80 ราคา $37.90 ก็เพียงพอ หากใช้ร่วมกับ Ollama ที่รวมมาให้ได้ โมเดลต้องอยู่ในหน่วยความจำได้ด้วย และ BD-8 ราคา $12.90 คือเครื่องที่ถูกที่สุดที่รองรับโมเดล 8B ได้โดยยังมีหน่วยความจำเหลือ
สิ่งที่ต้องใช้
ซอฟต์แวร์ตามเอกสาร ขนาดระบุแหล่งที่มา
ซอฟต์แวร์และแนวทางด้านความปลอดภัยมาจากเอกสารของโปรเจกต์เอง หากโปรเจกต์ไม่ได้เผยแพร่ข้อมูลฮาร์ดแวร์ ขนาดจะระบุว่าเป็นตัวเลขของใคร
จาก README ของ Open WebUI และ docs.openwebui.com
- ติดตั้งด้วย Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainUI รับฟังที่พอร์ต 8080 ภายในคอนเทนเนอร์ เอกสารแมปไปที่ 3000 บนโฮสต์ - มี Ollama รวมอยู่ด้วยหรือไม่ มีเฉพาะใน image
:ollamaซึ่งรวมทั้งสองไว้ในคอนเทนเนอร์เดียว image:mainไม่มี: มันเชื่อมต่อกับ Ollama หรือ API ที่เข้ากันได้กับ OpenAI ใดก็ได้ที่คุณกำหนดผ่านOLLAMA_BASE_URL - image มีขนาดดาวน์โหลด 1.66 GB และโมเดล embedding ค่าเริ่มต้นสำหรับค้นหาเอกสารใช้ RAM ประมาณ 500 MB ต่อ worker เอกสารไม่ได้เผยแพร่ข้อกำหนดขั้นต่ำของ CPU, RAM หรือดิสก์
- ทุกสิ่งที่คุณสร้างจะอยู่ใน volume
/app/backend/dataเอกสารเตือนว่าห้ามรันโดยไม่มีมัน บัญชีแรกที่คุณสร้างจะเป็นผู้ดูแลระบบ และการสมัครสมาชิกจะปิดเมื่อมีบัญชีนั้นแล้ว
ขนาด (ของเรา: เอกสารไม่ได้เผยแพร่ข้อกำหนดขั้นต่ำ)
| ปริมาณงาน | vCPU | RAM |
|---|---|---|
| Open WebUI กับ API ที่โฮสต์ภายนอกหรือ Ollama ที่แยกต่างหากของเรา image แอป และ embedder สำหรับค้นหาเอกสารใส่ได้โดยมีพื้นที่เหลือ รองรับผู้ใช้แชตจำนวนหนึ่ง | 2 | 4 GB |
| Open WebUI พร้อม Ollama ที่รวมมาด้วยและโมเดล 8Bของเรา โมเดล 8B ต้องดาวน์โหลด 4.9 GB และต้องอยู่ในหน่วยความจำข้างแอป ได้ไม่กี่ token ต่อวินาทีบน CPU | 4 | 8 GB |
| Ollama ที่รวมมาด้วยพร้อมโมเดล 14B หรือผู้ใช้หลายคนพร้อมกันของเรา โมเดล 14B มีขนาด 9.3 GB ส่วนที่เหลือเป็นหน่วยความจำสำหรับแอป embedder และแชตพร้อมกัน | 8 | 24 GB |
แพ็กเกจที่เหมาะสม
4 เครื่อง ราคาปัจจุบัน
เครื่องที่เหมาะและถูกที่สุดก่อน ราคาเป็นราคาวันนี้ ต่อเดือน อ่านจากแค็ตตาล็อก
- C2-4-80$37.90/เดือน
2 vCPU · 4 GB · ดิสก์ 80 GB · 3 TB
โมเดลที่โฮสต์ภายนอกเท่านั้น: การติดตั้งแบบเบา. 2 vCPU / 4 GB / 80 GB Open WebUI พร้อมคีย์ API หรือ Ollama ที่อื่น เลือกเพราะเมือง ไม่ใช่เพราะขนาด
- BD-8$12.90/เดือน
4 vCPU · 8 GB · ดิสก์ 100 GB · 32 TB
ราคาถูกที่สุดที่มีพื้นที่พอสำหรับ Ollama ที่รวมมาด้วยและโมเดล 8B. 4 vCPU, 8 GB, 100 GB สำหรับอิมเมจและการดาวน์โหลดโมเดล หน่วยความจำเป็นสองเท่าของการติดตั้งแบบเบา เพื่อรองรับโมเดล
- C4-8-160$75.90/เดือน
4 vCPU · 8 GB · ดิสก์ 160 GB · 3 TB
สเปกเดียวกันพร้อม 160 GB ในเมืองที่มากกว่า. 4 vCPU / 8 GB / 160 GB สำหรับเมื่อเมืองของแถวที่ถูกที่สุดไม่เหมาะกับคุณ หรือคุณต้องการคลังโมเดลที่ใหญ่ขึ้น
- BD-24$31.90/เดือน
8 vCPU · 24 GB · ดิสก์ 300 GB · 32 TB
8 vCPU / 24 GB สำหรับโมเดล 14B และทีม. โมเดล 14B และแชตพร้อมกันหลายรายการ พร้อมดิสก์สำหรับคลังเอกสาร
ยังไม่มีพรีเซ็ตเริ่มต้นสำหรับ Open WebUI: การติดตั้งคือสี่ขั้นตอนด้านล่างที่คุณพิมพ์เอง เป็นคำสั่งจากเอกสารของโปรเจกต์ โดยมีการเปลี่ยนแปลงหนึ่งจุดที่ระบุไว้
การติดตั้ง
สี่ขั้นตอน จากเอกสารของ Open WebUI
Docker, คอนเทนเนอร์, บัญชีผู้ดูแลระบบ แล้วจึงโมเดล ทำขั้นตอนที่ 3 ทันที: บัญชีแรกที่สร้างจะเป็นผู้ดูแลระบบ
- Docker
curl -fsSL https://get.docker.com | shตรวจสอบด้วยdocker --version - สร้าง secret key แล้วเริ่มใช้งาน รัน
openssl rand -hex 32และเก็บผลลัพธ์ไว้ เอกสารส่งค่านี้เป็น WEBUI_SECRET_KEY สิ่งเดียวที่เราเปลี่ยนจากคำสั่งของพวกเขา:127.0.0.1:3000:8080ทำให้พอร์ตไม่เปิดสู่อินเทอร์เน็ตสาธารณะจนกว่าคุณจะมี HTTPSdocker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:mainสำหรับ Ollama ที่รวมมาด้วย ให้เปลี่ยน image เป็นghcr.io/open-webui/open-webui:ollamaและเพิ่ม-v ollama:/root/.ollama - สร้างบัญชีผู้ดูแลระบบทันที จากแล็ปท็อปของคุณ
ssh -N -L 3000:127.0.0.1:3000 root@your-serverแล้วเปิดhttp://127.0.0.1:3000หน้าจอแรกจะมีตัวเลือก Create Admin Account บัญชีนั้นจัดการการตั้งค่าทั้งหมด และการสมัครสมาชิกจะปิดตัวเองหลังจากนั้น - เชื่อมต่อโมเดล แล้วจึงตั้งค่าโดเมน ในการตั้งค่า Admin ส่วน Connections: เพิ่ม API key ที่เข้ากันได้กับ OpenAI หรือที่อยู่ของ Ollama ของคุณ สำหรับ Ollama ที่อยู่บนโฮสต์เดียวกัน README แนะนำให้ใช้
--network=hostพร้อม-e OLLAMA_BASE_URL=http://127.0.0.1:11434ซึ่งพอร์ตจะกลายเป็น 8080 สำหรับ HTTPS ให้วาง reverse proxy ไว้ด้านหน้าและตั้งค่าproxy_buffering off;ใน location block ของมัน มิฉะนั้นคำตอบแบบสตรีมจะแสดงผลผิดเพี้ยน
พูดกันตรง ๆ
สิ่งที่เราจะซื้อจริงๆ
โปรเจกต์ไม่ได้ระบุข้อกำหนดขั้นต่ำ ดังนั้นให้เลือกซื้อตามโมเดล ไม่ใช่ตามอินเทอร์เฟซ
สำหรับ Open WebUI พร้อม Ollama ของตัวเอง
BD-8 · $12.90/เดือน
4 vCPU, 8 GB และ 100 GB ราคา $12.90: image ขนาด 1.66 GB, embedder และโมเดล 8B ในหน่วยความจำข้างกัน ตอบได้ไม่กี่ token ต่อวินาทีบน CPU เหมาะกับผู้ใช้คนเดียวหรือทีมเล็กที่รอได้ ไม่ใช่ห้องที่มีคนรอพร้อมกันจำนวนมาก หากโมเดลทั้งหมดของคุณโฮสต์ภายนอก C2-4-80 ราคา $37.90 ให้อินเทอร์เฟซเดียวกันในราคาที่ถูกกว่า หากผู้ใช้ต้องการคำตอบจากเครื่องที่รวดเร็ว ไลน์ GPU คือคำตอบที่ตรงไปตรงมา และ image :cuda สร้างมาเพื่อสิ่งนี้
คำถาม