Langsung ke konten

Solusi · Chat multi-model

Sewa VPS untuk LibreChat

LibreChat adalah antarmuka chat open-source untuk banyak model sekaligus: OpenAI, Anthropic, Google, dan model lokal melalui endpoint yang kompatibel dengan OpenAI, dengan agen, pencarian file, dan akun untuk seluruh tim. Dokumentasinya tidak mempublikasikan angka RAM atau CPU, dan file Docker Compose resmi menjalankan enam container, jadi kami mengukur dari situ. BD-8 seharga $12.90 per bulan adalah mesin termurah dengan ruang yang memadai; C2-4-80 seharga $37.90 adalah bentuk lebih kecil untuk satu pengguna atau kelompok kecil.

Deploy BD-8Bandingkan setiap paket

Yang dibutuhkan

Perangkat lunak dari dokumentasi, ukuran diberi label sesuai sumbernya

Perangkat lunak dan postur keamanannya berasal dari dokumentasi proyek itu sendiri. Jika proyek tidak menerbitkan angka perangkat keras, ukuran yang ditampilkan menyebutkan sumbernya.

Dari dokumentasi LibreChat dan file compose-nya

  • Git dan Docker, di Linux. Panduan Docker di librechat.ai tidak mencantumkan hal lain, dan tidak menyatakan kebutuhan RAM, CPU, atau disk.
  • Instalasi: clone repositori, lalu cp .env.example .env && docker compose up -d. Aplikasi merespons di port 3080; container kedua, panel admin, merespons di port 3000.
  • File compose resmi menjalankan enam container: aplikasi LibreChat, panel adminnya, MongoDB untuk percakapan dan akun, Meilisearch untuk pencarian percakapan, database pgvector, dan RAG API untuk pencarian file.
  • Model adalah kunci, bukan perangkat keras. Kunci OpenAI, Anthropic, dan Google dimasukkan ke .env, atau setiap pengguna memasukkan kuncinya sendiri di antarmuka. Model lokal adalah endpoint Ollama atau endpoint lain yang kompatibel dengan OpenAI yang terpisah, yang Anda tambahkan di librechat.yaml, sehingga mesin ini tidak membutuhkan GPU.

Ukuran (milik kami, dari enam container yang dijalankan file compose)

Penentuan ukuran berdasarkan beban kerja
Beban kerjavCPURAM
Satu pengguna atau kelompok kecil, beberapa chat, tanpa pencarian file beratMilik kami. Enam container memakai memori sendiri saat idle; ini adalah yang paling minimal untuk kami jalankan.24 GB
Sebuah tim, pencarian file aktif, indeks pencarian bertumbuhMilik kami. MongoDB, Meilisearch, dan database vektor masing-masing butuh ruang lebih, dan embedding unggahan adalah pekerjaan CPU.48 GB
Banyak pengguna, kumpulan dokumen besar, percakapan disimpan bertahun-tahunMilik kami. Penyimpanan percakapan, indeks pencarian, dan vektor semuanya bertumbuh seiring penggunaan.816 GB

Paket yang cocok

5 mesin, dengan harga terkini

Mesin termurah yang memadai lebih dulu. Harga adalah harga hari ini, per bulan, dibaca dari katalog.

  • BD-8$12.90/bln

    4 vCPU · 8 GB · disk 100 GB · 32 TB

    Termurah dengan ruang untuk seluruh stack. Lega untuk sebuah tim: enam container, unggahan, dan indeks pencarian, dengan memori yang tersisa.

    Deploy
  • BD-12$17.90/bln

    6 vCPU · 12 GB · disk 200 GB · 32 TB

    Disk lebih besar untuk unggahan dan vektor. Untuk perpustakaan dokumen nyata di balik pencarian file dan percakapan tersimpan selama bertahun-tahun.

    Deploy
  • BD-24$31.90/bln

    8 vCPU · 24 GB · disk 300 GB · 32 TB

    Tim besar atau beberapa pengguna berat. Memori yang cukup untuk pertumbuhan MongoDB, Meilisearch, dan database vektor.

    Deploy
  • C2-4-80$37.90/bln

    2 vCPU · 4 GB · disk 80 GB · 3 TB

    Bentuk lebih kecil, untuk satu atau beberapa pengguna. Menjalankan stack; jangan sekaligus menjalankan model lokal atau build di atasnya. Pilih karena kotanya, bukan ukurannya.

    Deploy
  • C4-8-160$75.90/bln

    4 vCPU · 8 GB · disk 160 GB · 3 TB

    Ukuran lega jika kota pada baris termurah tidak cocok untuk Anda. Bentuk yang sama dengan baris termurah, untuk tim yang membutuhkan kota berbeda.

    Deploy

Belum ada preset startup untuk LibreChat: instalasinya adalah langkah-langkah di bawah, diketik oleh Anda. Itu adalah perintah dari dokumentasi LibreChat sendiri, ditambah secret yang diminta file compose-nya.

Instalasi

Empat langkah, dari dokumentasi LibreChat

Docker, stack compose, akun pertama, lalu model Anda. Daftarkan akun Anda sendiri begitu stack berjalan: akun pertama yang dibuat menjadi admin.

  1. Docker. curl -fsSL https://get.docker.com | sh Lalu periksa bahwa docker compose version merespons.
  2. Clone dan konfigurasi. git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env Di .env, atur MEILI_MASTER_KEY (minimal 16 karakter) dan ADMIN_PANEL_SESSION_SECRET, yang tanpanya panel admin tidak akan berjalan. Jika container melaporkan error izin, atur UID dan GID ke pengguna yang menjalankan compose.
  3. Jalankan dan daftar terlebih dahulu. docker compose up -d docker compose ps seharusnya menampilkan keenam container berjalan. Buka http://your-ip:3080 dan tekan Register: tidak ada pengguna bawaan. Sampai HTTPS terpasang di depan, simpan 3080 dan 3000 di balik firewall dan akses aplikasi melalui SSH: ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. Tambahkan model, lalu domain. Masukkan OPENAI_API_KEY, ANTHROPIC_API_KEY dan GOOGLE_KEY ke .env, atau biarkan sebagai user_provided agar setiap pengguna memasukkan kuncinya sendiri. Untuk model lokal, tambahkan endpoint Ollama di librechat.yaml; dari dalam container alamatnya adalah host.docker.internal, bukan localhost. Untuk HTTPS, arahkan A record ke server, pasang reverse proxy di depannya, dan atur DOMAIN_CLIENT serta DOMAIN_SERVER di .env ke alamat publik. Setelah orang-orang Anda terdaftar, atur ALLOW_REGISTRATION ke false.

Terus terang

Yang benar-benar akan kami beli

LibreChat tidak menyatakan batas minimum, dan menjalankan enam container. Belilah mesin 8 GB.

Untuk LibreChat dan sebuah tim

BD-8 · $12.90/bln

4 vCPU, 8 GB, dan 100 GB seharga $12.90: seluruh stack resmi dengan memori tersisa untuk pertumbuhan MongoDB, Meilisearch, dan database vektor, disk untuk unggahan, dan CPU untuk embedding dokumen tanpa chat tersendat. Modelnya berada di tempat lain, di balik kunci API, sehingga mesin ini tidak pernah membutuhkan GPU. Jika Anda membutuhkan kota yang tidak ada di baris termurah, C4-8-160 seharga $75.90 adalah bentuk yang sama di tempat lain.

Deploy BD-8C4-8-160 di lebih banyak kota

Pertanyaan

Pertanyaan orang sebelum membelinya.

Apa persyaratan sistem LibreChat?
Dokumentasinya tidak mempublikasikan apa pun. Panduan Docker mencantumkan Git dan Docker sebagai prasyarat dan tidak menyebut apa pun tentang RAM, CPU, atau disk. Yang bisa kami baca adalah file compose resmi, yang menjalankan enam container: aplikasi LibreChat, panel admin, MongoDB, Meilisearch, database pgvector, dan RAG API. Ukuran di halaman ini adalah milik kami, dinalar dari stack tersebut, dan tabelnya menyatakan demikian. Mesin 8 GB adalah titik di mana sebuah tim tidak lagi kesempitan.
Apakah LibreChat membutuhkan GPU?
Tidak. LibreChat adalah antarmukanya: ia memanggil model mana pun yang Anda konfigurasi, melalui kunci API untuk OpenAI, Anthropic, Google, dan lainnya, atau melalui endpoint kustom seperti Ollama. Jika Anda juga ingin meng-host model sendiri, itu mesin terpisah dan pertanyaan terpisah: halaman Ollama mengukur inferensi CPU per model, dan lini GPU adalah tempat kecepatan interaktif berada.
Port apa saja yang digunakan?
File compose mempublikasikan aplikasi di PORT dari .env, default 3080, dan panel admin di 3000. MongoDB, Meilisearch, database vektor, dan RAG API tidak dipublikasikan dan tetap berada di jaringan compose. Aplikasi menggunakan HTTP biasa, jadi simpan 3080 dan 3000 di balik firewall sampai reverse proxy memberi Anda HTTPS, dan daftarkan akun Anda sendiri terlebih dahulu: akun pertama yang dibuat menjadi admin.
Kunci API apa yang saya butuhkan?
Tidak ada untuk menjalankan stack, dan satu per penyedia yang ingin Anda gunakan. OPENAI_API_KEY, ANTHROPIC_API_KEY, dan GOOGLE_KEY secara default bernilai user_provided di .env.example, yang berarti setiap pengguna memasukkan kuncinya sendiri di antarmuka; masukkan kunci asli di sana untuk membagikan satu kunci ke semua orang. Pencarian file terpisah: RAG API menggunakan embedding OpenAI secara default, dan RAG_OPENAI_API_KEY menggantikan OPENAI_API_KEY untuknya, sehingga pencarian file membutuhkan kunci embedding kecuali Anda mengganti penyedianya.
Bagaimana cara menggunakan model lokal dengannya?
Tambahkan endpoint kustom di librechat.yaml yang mengarah ke server yang kompatibel dengan OpenAI seperti Ollama, pada alamat /v1/ di port 11434. Panduan LibreChat sendiri menyebutkan untuk menggunakan host.docker.internal alih-alih localhost saat LibreChat berjalan di container, dan bahwa Ollama mengabaikan kunci API tetapi kolomnya tidak boleh kosong. Jalankan model di mesinnya sendiri jika lebih dari model kecil; mesin di halaman ini diukur untuk antarmukanya.
LibreChat, Open WebUI, atau Dify?
LibreChat dan Open WebUI sama-sama antarmuka chat untuk banyak model, dan LibreChat menonjolkan akun multi-pengguna, agen, dan tool MCP di berbagai penyedia hosted. Dify adalah platform aplikasi LLM: prompt, workflow, dan aplikasi RAG yang Anda bangun dan ekspos, bukan front end chat untuk tim. Semuanya berjalan di mesin yang sama, dan kami menyediakan halaman untuk masing-masing.
Bagaimana cara memperbaruinya?
Dari dokumentasi: docker compose down, hapus image lama, git pull, docker compose pull, lalu docker compose up. Cadangkan dulu direktori data-node (MongoDB), direktori data Meilisearch, dan .env Anda: itulah percakapan, indeks pencarian, dan kuncinya.

Baca selanjutnya

Terkait