Megoldások · LLM-alkalmazásplatform
VPS Dify-hoz
A Dify nyílt forráskódú platform LLM-alkalmazások építéséhez: chatasszisztensek, ügynökök, munkafolyamatok és RAG a saját dokumentumain, egy API-kulcs mögött az Ön által választott modellszolgáltatóval. A dokumentációja 2 CPU-magot és 4 GiB RAM-ot kér, a hivatalos Docker Compose fájl pedig tizenhat konténert indít, ezért ezt az alsó határt tekintse valóban alsó határnak. A(z) BD-8 havi $12.90 áron a legolcsóbb gép, amelyen tényleg van tartalék; a(z) C2-4-80 $37.90 áron a legolcsóbb, amely pontosan a hivatalos minimum, több tucat városban.
Amire szüksége van
Szoftver a dokumentációból, a méreteknél feltüntetett forrással
A szoftver és a biztonsági beállítások a projekt saját dokumentációjából származnak. Ahol a projekt nem közöl hardverigényt, a méreteknél fel van tüntetve, kitől származnak.
A Dify README-jéből és a docs.dify.ai oldalról
- „CPU >= 2 Core, RAM >= 4 GiB.” Docker Engine 19.03 vagy újabb, Docker Compose 2.24.0 vagy újabb, Linuxon.
- Telepítés: klónozza a legújabb kiadást, majd
cd dify/docker && cp .env.example .env && docker compose up -d. A compose fájl hét Dify-szolgáltatást indít, továbbá a Postgrest, a Redist, a Weaviate-et, az nginxet, két sandboxot és két kimenő proxyt. - A stacken belüli nginx a 80-as és a 443-as portot teszi elérhetővé. Az admin fiókot egyszer kell létrehozni a(z)
http://your-ip/installcímen; utána a puszta címen jelentkezik be. - A modellek a Beállításokban megadott szolgáltatótól származnak: API-kulcs egy hosztolt modellhez, vagy egy saját üzemeltetésű, OpenAI-kompatibilis végpont, például az Ollama. Maga a Dify nem futtat modellt, így GPU sem kell.
Méretek (a Dify minimuma, majd a miénk aszerint, amit a compose fájl elindít)
| Munkaterhelés | vCPU | RAM |
|---|---|---|
| Csak Dify (hivatalos minimum)Itt tizenhat konténer fut üresjáratban. Egy dokumentumkészlet indexelése vagy egy build ugyanezen a gépen swapbe fogja kényszeríteni. | 2 | 4 GB |
| Dify + néhány alkalmazás és egy kis tudásbázisA miénk. A Postgres, a Redis, a Weaviate és a workerek mind saját memóriát foglalnak; itt szűnik meg a szűkösség. | 4 | 8 GB |
| Nagy tudásbázisok, sok felhasználó, egész nap futó munkafolyamatokA miénk. A Weaviate a vektorokkal együtt nő; a beágyazás és az indexelés a worker CPU-ján fut. | 8 | 24 GB |
A megfelelő csomagok
5 gép, aktuális árakon
A legolcsóbb megfelelő gép elöl. Az árak a mai havi árak, a katalógusból.
- BD-8$12.90/hó
4 vCPU · 8 GB · 100 GB lemez · 32 TB
A legolcsóbb, amelyen elfér a teljes stack. 4 vCPU, 8 GB, 100 GB és 32 TB adatforgalom, kevesebbért, mint máshol a 4 GB-os gépek. Mindkét tekintetben a hivatalos minimum kétszerese.
- BD-12$17.90/hó
6 vCPU · 12 GB · 200 GB lemez · 32 TB
6 vCPU / 12 GB / 200 GB egy valódi dokumentumtárhoz. Lemez a feltöltéseknek és a vektoroknak, memória, hogy a Weaviate bővülhessen.
- BD-24$31.90/hó
8 vCPU · 24 GB · 300 GB lemez · 32 TB
8 vCPU / 24 GB egy csapat alkalmazásaihoz. Több alkalmazás, nagy tudásbázisok, egyszerre futó ügynökök és munkafolyamatok.
- C2-4-80$37.90/hó
2 vCPU · 4 GB · 80 GB lemez · 3 TB
Pontosan a hivatalos minimum, több tucat városban. 2 vCPU / 4 GB / 80 GB. Futtatja a stacket; ne végezzen rajta emellett buildelést vagy indexelést. A város miatt válassza, ne a méret miatt.
- C4-8-160$75.90/hó
4 vCPU · 8 GB · 160 GB lemez · 3 TB
4 vCPU / 8 GB / 160 GB, több tucat városban. A kényelmes méret, ha a legolcsóbb sor hat városa nem megfelelő Önnek.
A Difyhoz még nincs indulási preset: a telepítés az alábbi négy lépés, amelyet Ön gépel be. Ezek a Dify saját dokumentációjának parancsai, semmi hozzáadás nélkül.
A telepítés
Négy lépés a Dify dokumentációjából
Docker, a compose stack, az admin oldal, majd egy modell. A 3. lépést abban a percben végezze el, amikor a stack elindult: a /install oldal első látogatója hozza létre az admint.
- Docker.
curl -fsSL https://get.docker.com | shA Dify-hoz Compose 2.24 vagy újabb szükséges; a(z)docker compose versionmegmutatja, melyik verzió van telepítve. - Klónozza a legújabb kiadást, és indítsa el.
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git cd dify/docker && cp .env.example .env && docker compose up -dTizenhat konténer indul el; a(z)docker compose psparancsnak mindegyiket Up vagy healthy állapotban kell mutatnia, az init_permissions pedig Exited állapotban. - Hozza létre most az adminisztrátort. Nyissa meg a(z)
http://your-ip/installcímet, állítsa be az adminisztrátori fiókot, majd jelentkezzen be itt:http://your-ip. Amíg nincs HTTPS, tartsa a 80-as portot a tűzfal mögött, és SSH-n keresztül érje el:ssh -N -L 8080:127.0.0.1:80 root@your-server, majd http://127.0.0.1:8080/install. - Adjon hozzá modellszolgáltatót, majd domaint. Settings, Model Provider: illessze be egy hosztolt szolgáltató API-kulcsát, vagy irányítson egy OpenAI-kompatibilis szolgáltatót a saját Ollama példányára. HTTPS-hez irányítson egy A rekordot a szerverre, másolja le a(z)
docker/envs/infrastructure/certbot.env.examplefájlt .example utótag nélkül, írja bele a CERTBOT_DOMAIN és a CERTBOT_EMAIL értékét, majd indítsa el a stack certbot profilját:docker compose --profile certbot up -d.
Őszintén
Amit mi ténylegesen vennénk
Az alsó határ 2 mag és 4 GiB tizenhat konténerhez. Vegye a 8 GB-os gépet, amely kevesebbe kerül, mint az alsó határnak megfelelő méretűek.
A Difyhoz és néhány alkalmazáshoz
BD-8 · $12.90/hó
4 vCPU, 8 GB és 100 GB $12.90 áron: a teljes hivatalos stack, memóriával, hogy a Postgres, a Redis és a Weaviate bővülhessen, lemezzel a feltöltéseknek, és CPU-val az indexeléshez anélkül, hogy az alkalmazások megakadnának. A modellek máshol futnak, egy API-kulcs mögött, így ennek a gépnek soha nincs szüksége GPU-ra. Ha olyan városra van szüksége, amely a legolcsóbb sorban nem szerepel, a(z) C4-8-160 $75.90 áron ugyanilyen felépítésű, több tucat városban.
Kérdések