Çözümler · LLM uygulama platformu
Dify için VPS
Dify, LLM uygulamaları geliştirmek için açık kaynaklı bir platformdur: sohbet asistanları, ajanlar, iş akışları ve belgeleriniz üzerinde RAG; arkada ise bir API anahtarıyla seçtiğiniz model sağlayıcı bulunur. Belgeleri 2 CPU çekirdeği ve 4 GiB RAM ister, resmi Docker Compose dosyası ise on altı konteyner başlatır; bu yüzden bu alt sınırı gerçekten alt sınır olarak görün. Aylık $12.90 fiyatlı BD-8, gerçek anlamda yer bırakan en ucuz makinedir; $37.90 fiyatlı C2-4-80 ise tam olarak resmi minimuma denk gelen en ucuz seçenektir ve onlarca şehirde mevcuttur.
Gereksinimleri
Yazılım belgelerden, boyutlar kaynağıyla etiketli
Yazılım ve güvenlik yaklaşımı, projenin kendi belgelerinden alınmıştır. Projenin donanım değeri yayımlamadığı durumlarda boyutlar, kime ait olduklarını belirtir.
Dify README dosyasından ve docs.dify.ai'dan
- “CPU >= 2 Core, RAM >= 4 GiB.” Linux üzerinde Docker Engine 19.03 veya üstü ile Docker Compose 2.24.0 veya üstü.
- Kurulum: en son sürümü klonlayın, ardından
cd dify/docker && cp .env.example .env && docker compose up -d. Compose dosyası yedi Dify hizmetinin yanı sıra Postgres, Redis, Weaviate, nginx, iki sandbox ve iki egress proxy başlatır. - Yığın içindeki nginx 80 ve 443 numaralı portları yayınlar. Yönetici hesabı
http://your-ip/installadresinde bir kez oluşturulur; sonrasında yalın adresten giriş yaparsınız. - Modeller, Settings bölümünde yapılandırdığınız bir sağlayıcıdan gelir: barındırılan bir model için API anahtarı ya da Ollama gibi kendi barındırdığınız, OpenAI uyumlu bir uç nokta. Dify'ın kendisi model çalıştırmaz, dolayısıyla GPU gerekmez.
Boyutlar (önce Dify'ın minimumu, ardından compose dosyasının başlattıklarına göre bizim önerilerimiz)
| İş yükü | vCPU | RAM |
|---|---|---|
| Yalnızca Dify (resmi minimum)On altı konteyner burada boşta çalışır. Aynı makinede bir belge kümesini dizinlemek veya bir derleme yapmak sistemi swap kullanmaya iter. | 2 | 4 GB |
| Dify + birkaç uygulama ve küçük bir bilgi tabanıBizim önerimiz. Postgres, Redis, Weaviate ve worker'ların her biri kendi belleğini kullanır; sıkışıklık burada sona erer. | 4 | 8 GB |
| Büyük bilgi tabanları, çok sayıda kullanıcı, gün boyu çalışan iş akışlarıBizim önerimiz. Weaviate vektörlerle birlikte büyür; gömme ve dizinleme işlemleri worker'ın CPU'sunda çalışır. | 8 | 24 GB |
Uygun planlar
5 makine, canlı fiyatlı
Uygun en ucuz makine önce. Fiyatlar bugünkü aylık fiyatlardır, katalogdan okunur.
- BD-8$12.90/ay
4 vCPU · 8 GB · 100 GB disk · 32 TB
Tüm yığına yer bırakan en ucuz seçenek. 4 vCPU, 8 GB, 100 GB ve 32 TB trafik, başka yerlerdeki 4 GB makinelerden daha ucuza. Her iki açıdan da resmi alt sınırın iki katı.
- BD-12$17.90/ay
6 vCPU · 12 GB · 200 GB disk · 32 TB
Gerçek bir belge kütüphanesi için 6 vCPU / 12 GB / 200 GB. Yüklemeler ve vektörler için disk, Weaviate'in büyüyebileceği bellek.
- BD-24$31.90/ay
8 vCPU · 24 GB · 300 GB disk · 32 TB
Bir ekibin uygulamaları için 8 vCPU / 24 GB. Aynı anda çalışan birkaç uygulama, büyük bilgi tabanları, ajanlar ve iş akışları.
- C2-4-80$37.90/ay
2 vCPU · 4 GB · 80 GB disk · 3 TB
Tam olarak resmi minimum, onlarca şehirde. 2 vCPU / 4 GB / 80 GB. Yığını çalıştırır; üzerinde ayrıca derleme veya indeksleme yapmayın. Boyutu için değil, şehri için seçin.
- C4-8-160$75.90/ay
4 vCPU · 8 GB · 160 GB disk · 3 TB
4 vCPU / 8 GB / 160 GB, onlarca şehirde. En ucuz satırdaki altı şehir size uymuyorsa rahat boyut.
Dify için henüz bir başlangıç ön ayarı yok: kurulum, aşağıdaki dört adımı sizin yazmanızla yapılır. Bunlar Dify'ın kendi belgelerindeki komutlardır, hiçbir ekleme yapılmamıştır.
Kurulum
Dify belgelerinden dört adım
Docker, compose yığını, yönetici sayfası, ardından bir model. Yığın ayağa kalkar kalkmaz 3. adımı yapın: /install adresini ilk ziyaret eden kişi yöneticiyi oluşturur.
- Docker.
curl -fsSL https://get.docker.com | shDify, Compose 2.24 veya üstünü gerektirir;docker compose versionhangi sürüme sahip olduğunuzu gösterir. - En son sürümü klonlayın ve başlatın.
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git cd dify/docker && cp .env.example .env && docker compose up -dOn altı konteyner başlar;docker compose psher birini Up veya healthy, init_permissions'ı ise Exited olarak göstermelidir. - Yönetici hesabını hemen oluşturun.
http://your-ip/installadresini açın, yönetici hesabını ayarlayın, ardındanhttp://your-ipadresinden giriş yapın. HTTPS hazır olana kadar 80 numaralı portu güvenlik duvarının arkasında tutun ve ona SSH üzerinden erişin:ssh -N -L 8080:127.0.0.1:80 root@your-server, ardından http://127.0.0.1:8080/install. - Önce bir model sağlayıcı, sonra bir alan adı ekleyin. Settings, Model Provider: barındırılan bir sağlayıcının API anahtarını yapıştırın ya da OpenAI uyumlu bir sağlayıcıyı kendi Ollama'nıza yönlendirin. HTTPS için sunucuya bir A kaydı yönlendirin,
docker/envs/infrastructure/certbot.env.exampledosyasını .example uzantısı olmadan kopyalayın, içine CERTBOT_DOMAIN ve CERTBOT_EMAIL değerlerini yazın, ardından yığının certbot profilini başlatın:docker compose --profile certbot up -d.
Dürüstçe
Gerçekte ne alırdık
On altı konteyner için alt sınır 2 çekirdek ve 4 GiB'dir. Alt sınır boyutundakilerden daha ucuza mal olan 8 GB'lık makineyi alın.
Dify ve birkaç uygulama için
BD-8 · $12.90/ay
$12.90 fiyatına 4 vCPU, 8 GB ve 100 GB: tüm resmi yığın, Postgres, Redis ve Weaviate'in büyümesi için kalan bellek, yüklemeler için disk ve uygulamaları durdurmadan dizinleme yapacak CPU. Modeller başka yerde, bir API anahtarının arkasında çalışır; bu yüzden bu makine hiçbir zaman GPU'ya ihtiyaç duymaz. En ucuz satırda bulunmayan bir şehre ihtiyacınız varsa, $75.90 fiyatlı C4-8-160 onlarca şehirde aynı yapıdadır.
Sorular