Рішення · Чат-інтерфейс
VPS для Open WebUI
Open WebUI це чат-інтерфейс із власним розміщенням для Ollama і будь-якого OpenAI-сумісного API: облікові записи, історія, документи та вебпошук в одній вкладці браузера. Він не публікує мінімальних вимог до обладнання, тож розміри тут наші та позначені відповідно. З хмарною моделлю це легкий застосунок, і C2-4-80 за $37.90 цілком достатньо; з Ollama, який він може містити, модель також має вміститися в пам’ять, і BD-8 за $12.90 це найдешевша машина, яка вміщує модель 8B із запасом.
Що потрібно
Програмне забезпечення з документації, розміри з позначенням джерела
Програмне забезпечення та налаштування безпеки взято з власної документації проєкту. Якщо проєкт не публікує вимог до обладнання, біля розмірів зазначено, чиї вони.
З README Open WebUI та docs.openwebui.com
- Встановлення через Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainІнтерфейс слухає порт 8080 усередині контейнера; документація зіставляє його з портом 3000 на хості. - Чи містить він Ollama? Лише в образі
:ollama, який об’єднує обидва в одному контейнері. Образ:mainне містить: він підключається до Ollama або будь-якого OpenAI-сумісного API, який ви вкажете черезOLLAMA_BASE_URL. - Образ займає 1.66 GB для завантаження, а стандартна модель ембедингів для пошуку документами потребує близько 500 MB RAM на воркер. Документація не публікує мінімуму для ЦП, RAM чи диска.
- Усе, що ви створюєте, зберігається в томі
/app/backend/data; документація застерігає ніколи не запускати без нього. Перший створений обліковий запис стає адміністратором, і реєстрація закривається, щойно він з’являється.
Розміри (наші: документація не публікує мінімуму)
| Навантаження | vCPU | RAM |
|---|---|---|
| Open WebUI з хмарним API або окремим OllamaНаш. Образ, застосунок і ембедер для пошуку документами вміщуються із запасом; кілька користувачів у чаті. | 2 | 4 GB |
| Open WebUI з вбудованим Ollama і моделлю 8BНаш. Модель 8B це завантаження 4.9 GB, і вона має вміститися в пам’ять поряд із застосунком. Кілька токенів на секунду на ЦП. | 4 | 8 GB |
| Вбудований Ollama з моделлю 14B або кілька людей одночасноНаш. Модель 14B займає 9.3 GB; решта це пам’ять для застосунку, його ембедера та одночасних чатів. | 8 | 24 GB |
Тарифи, що підходять
Машин: 4, ціни актуальні
Спочатку найдешевша відповідна машина. Ціни поточні, за місяць, з каталогу.
- C2-4-80$37.90/міс
2 vCPU · 4 GB · диск 80 GB · 3 TB
Лише хмарні моделі: легке встановлення. 2 vCPU / 4 GB / 80 GB. Open WebUI з ключем API або з Ollama в іншому місці. Обирайте його заради міста, а не розміру.
- BD-8$12.90/міс
4 vCPU · 8 GB · диск 100 GB · 32 TB
Найдешевший із місцем для вбудованого Ollama і моделі 8B. 4 vCPU, 8 GB, 100 GB для образу та завантажених моделей. Удвічі більше пам’яті, ніж у легкого встановлення, для моделі.
- C4-8-160$75.90/міс
4 vCPU · 8 GB · диск 160 GB · 3 TB
Та сама конфігурація зі 160 GB, у більшій кількості міст. 4 vCPU / 8 GB / 160 GB, якщо міста найдешевшого рядка вам не підходять або вам потрібна більша бібліотека моделей.
- BD-24$31.90/міс
8 vCPU · 24 GB · диск 300 GB · 32 TB
8 vCPU / 24 GB для моделей 14B і команди. Модель 14B і кілька одночасних чатів, із диском для бібліотеки документів.
Готового скрипту запуску для Open WebUI поки немає: встановлення це чотири кроки нижче, які ви вводите самі. Це команди з його власної документації з однією позначеною зміною.
Встановлення
Чотири кроки з документації Open WebUI
Docker, контейнер, обліковий запис адміністратора, потім модель. Виконайте крок 3 одразу: перший створений обліковий запис стає адміністратором.
- Docker.
curl -fsSL https://get.docker.com | shПеревірте командоюdocker --version. - Створіть секретний ключ і запустіть. Виконайте
openssl rand -hex 32і збережіть результат; документація передає його як WEBUI_SECRET_KEY. Наша єдина зміна в їхній команді:127.0.0.1:3000:8080не відкриває порт у публічний інтернет, доки у вас немає HTTPS.docker run -d -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:mainДля вбудованого Ollama замініть образ наghcr.io/open-webui/open-webui:ollamaі додайте-v ollama:/root/.ollama. - Створіть адміністратора одразу. Зі свого ноутбука виконайте
ssh -N -L 3000:127.0.0.1:3000 root@your-server, потім відкрийтеhttp://127.0.0.1:3000. Перший екран пропонує Create Admin Account; цей обліковий запис керує всіма налаштуваннями, а реєстрація після нього вимикається сама. - Підключіть модель, потім домен. У Admin settings, Connections: додайте OpenAI-сумісний ключ API або адресу вашого Ollama. Для Ollama на тому самому хості README радить використовувати
--network=hostз-e OLLAMA_BASE_URL=http://127.0.0.1:11434; тоді порт стає 8080. Для HTTPS поставте попереду зворотний проксі та задайтеproxy_buffering off;у його блоці location, інакше потокові відповіді надходитимуть спотвореними.
Чесно кажучи
Що ми купили б насправді
Проєкт не називає мінімуму, тож купуйте під модель, а не під інтерфейс.
Для Open WebUI з власним Ollama
BD-8 · $12.90/міс
4 vCPU, 8 GB і 100 GB за $12.90: образ 1.66 GB, ембедер і модель 8B у пам’яті поряд із ними, що відповідає зі швидкістю кілька токенів на секунду на ЦП. Це підходить для однієї людини або невеликої команди, яка готова зачекати, а не для зали людей, що чекають. Якщо всі ваші моделі хмарні, C2-4-80 за $37.90 дає той самий інтерфейс дешевше. Якщо людям потрібні швидкі локальні відповіді, чесна відповідь це лінійка GPU, і образ :cuda створено саме для неї.
Запитання