Rozwiązania · Platforma aplikacji LLM
VPS dla Dify
Dify to platforma open source do tworzenia aplikacji LLM: asystentów czatu, agentów, przepływów pracy i RAG na Twoich dokumentach, z wybranym dostawcą modeli za kluczem API. Dokumentacja wymaga 2 rdzeni CPU i 4 GiB RAM, a oficjalny plik Docker Compose uruchamia szesnaście kontenerów, więc traktuj to minimum jako absolutne minimum. BD-8 za $12.90 miesięcznie to najtańsza maszyna z realnym zapasem; C2-4-80 za $37.90 to najtańsza dokładnie na poziomie oficjalnego minimum, w dziesiątkach miast.
Czego potrzebuje
Oprogramowanie według dokumentacji, rozmiary z podanym źródłem
Oprogramowanie i zalecenia bezpieczeństwa pochodzą z dokumentacji danego projektu. Tam, gdzie projekt nie podaje wymagań sprzętowych, przy rozmiarach zaznaczamy, czyje to zalecenia.
Na podstawie README Dify i docs.dify.ai
- „CPU >= 2 Core, RAM >= 4 GiB.” Docker Engine 19.03 lub nowszy z Docker Compose 2.24.0 lub nowszym, na Linuksie.
- Instalacja: sklonuj najnowsze wydanie, a następnie
cd dify/docker && cp .env.example .env && docker compose up -d. Plik compose uruchamia siedem usług Dify oraz Postgres, Redis, Weaviate, nginx, dwa sandboxy i dwa proxy wychodzące. - nginx wewnątrz stosu publikuje porty 80 i 443. Konto administratora tworzy się jednorazowo pod
http://your-ip/install; potem logujesz się pod samym adresem. - Modele pochodzą od dostawcy skonfigurowanego w Settings: klucz API dla modelu hostowanego albo samodzielnie hostowany punkt końcowy zgodny z OpenAI, taki jak Ollama. Samo Dify nie uruchamia żadnego modelu, więc nie potrzebuje GPU.
Rozmiary (minimum Dify, a potem nasze, na podstawie tego, co uruchamia plik compose)
| Obciążenie | vCPU | RAM |
|---|---|---|
| Samo Dify (oficjalne minimum)Tutaj szesnaście kontenerów pracuje bezczynnie. Indeksowanie zestawu dokumentów lub kompilacja na tej samej maszynie zepchnie ją do swapu. | 2 | 4 GB |
| Dify + kilka aplikacji i mała baza wiedzyNasz. Postgres, Redis, Weaviate i workery zajmują każdy własną pamięć; tu przestaje być ciasno. | 4 | 8 GB |
| Duże bazy wiedzy, wielu użytkowników, przepływy pracy przez cały dzieńNasz. Weaviate rośnie wraz z wektorami; embedding i indeksowanie działają na CPU workera. | 8 | 24 GB |
Pasujące plany
Maszyny: 5, aktualne ceny
Najpierw najtańsza pasująca maszyna. Ceny dzisiejsze, miesięczne, z katalogu.
- BD-8$12.90/mies.
4 vCPU · 8 GB · dysk 100 GB · 32 TB
Najtańszy z miejscem na cały stos. 4 vCPU, 8 GB, 100 GB i 32 TB transferu, taniej niż maszyny 4 GB gdzie indziej. Dwukrotność oficjalnego minimum pod oboma względami.
- BD-12$17.90/mies.
6 vCPU · 12 GB · dysk 200 GB · 32 TB
6 vCPU / 12 GB / 200 GB na prawdziwą bibliotekę dokumentów. Dysk na przesłane pliki i wektory, pamięć, w którą może rosnąć Weaviate.
- BD-24$31.90/mies.
8 vCPU · 24 GB · dysk 300 GB · 32 TB
8 vCPU / 24 GB na aplikacje zespołu. Kilka aplikacji, duże bazy wiedzy, agenci i przepływy pracy działające jednocześnie.
- C2-4-80$37.90/mies.
2 vCPU · 4 GB · dysk 80 GB · 3 TB
Dokładnie oficjalne minimum, w dziesiątkach miast. 2 vCPU / 4 GB / 80 GB. Uruchamia cały stos; nie kompiluj ani nie indeksuj na nim nic więcej. Wybierz go ze względu na miasto, a nie rozmiar.
- C4-8-160$75.90/mies.
4 vCPU · 8 GB · dysk 160 GB · 3 TB
4 vCPU / 8 GB / 160 GB, w dziesiątkach miast. Komfortowy rozmiar, jeśli sześć miast z najtańszego wiersza Ci nie odpowiada.
Nie ma jeszcze gotowego ustawienia startowego dla Dify: instalacja to cztery poniższe kroki, wpisywane samodzielnie. To polecenia z dokumentacji Dify, nic nie dodaliśmy.
Instalacja
Cztery kroki według dokumentacji Dify
Docker, stos compose, strona administratora, a potem model. Wykonaj krok 3 natychmiast po uruchomieniu stosu: pierwsza osoba, która odwiedzi /install, tworzy konto administratora.
- Docker.
curl -fsSL https://get.docker.com | shDify wymaga Compose 2.24 lub nowszego;docker compose versionpokazuje, jaką wersję masz. - Sklonuj najnowsze wydanie i uruchom je.
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git cd dify/docker && cp .env.example .env && docker compose up -dUruchamia się szesnaście kontenerów;docker compose pspowinno pokazać każdy jako Up lub healthy, a init_permissions jako Exited. - Od razu utwórz konto administratora. Otwórz
http://your-ip/install, ustaw konto administratora, a potem zaloguj się podhttp://your-ip. Dopóki nie masz HTTPS, trzymaj port 80 za zaporą i łącz się przez SSH:ssh -N -L 8080:127.0.0.1:80 root@your-server, a potem http://127.0.0.1:8080/install. - Dodaj dostawcę modeli, a potem domenę. Settings, Model Provider: wklej klucz API hostowanego dostawcy albo skieruj dostawcę zgodnego z OpenAI na własną instancję Ollama. Dla HTTPS skieruj rekord A na serwer, skopiuj
docker/envs/infrastructure/certbot.env.examplebez sufiksu .example, wpisz w nim CERTBOT_DOMAIN i CERTBOT_EMAIL, a następnie uruchom profil certbot stosu:docker compose --profile certbot up -d.
Szczerze
Co kupilibyśmy sami
Minimum to 2 rdzenie i 4 GiB na szesnaście kontenerów. Kup maszynę 8 GB, która kosztuje mniej niż te o rozmiarze minimum.
Dla Dify i kilku aplikacji
BD-8 · $12.90/mies.
4 vCPU, 8 GB i 100 GB za $12.90: cały oficjalny stos z pamięcią, w którą mogą rosnąć Postgres, Redis i Weaviate, dyskiem na przesłane pliki i CPU na indeksowanie bez zatrzymywania aplikacji. Modele działają gdzie indziej, za kluczem API, więc ta maszyna nigdy nie potrzebuje GPU. Jeśli potrzebujesz miasta, którego nie ma w najtańszym wierszu, C4-8-160 za $75.90 ma te same parametry w dziesiątkach miast.
Pytania