Giải pháp · Chat đa mô hình
VPS cho LibreChat
LibreChat là giao diện chat mã nguồn mở cho nhiều mô hình cùng lúc: OpenAI, Anthropic, Google và các mô hình cục bộ qua một endpoint tương thích OpenAI, kèm agent, tìm kiếm tệp và tài khoản cho cả nhóm. Tài liệu của nó không công bố con số RAM hay CPU nào, và tệp Docker Compose chính thức khởi chạy sáu container, nên chúng tôi chọn cấu hình dựa trên đó. BD-8 giá $12.90 mỗi tháng là máy rẻ nhất có đủ chỗ thực sự; C2-4-80 giá $37.90 là cấu hình nhỏ hơn cho một người dùng hoặc một nhóm nhỏ.
Những gì nó cần
Phần mềm theo tài liệu chính thức, cấu hình ghi rõ nguồn
Phần mềm và cách thiết lập bảo mật lấy từ tài liệu của chính dự án. Khi dự án không công bố thông số phần cứng, cấu hình sẽ ghi rõ con số đó là của ai.
Từ tài liệu LibreChat và tệp compose của nó
- Git và Docker, trên Linux. Hướng dẫn Docker trên librechat.ai không liệt kê gì khác, và không nêu yêu cầu RAM, CPU hay ổ đĩa.
- Cài đặt: clone kho mã nguồn, rồi
cp .env.example .env && docker compose up -d. Ứng dụng phản hồi trên cổng 3080; một container thứ hai, trang quản trị, phản hồi trên cổng 3000. - Tệp compose chính thức khởi chạy sáu container: ứng dụng LibreChat, bảng quản trị của nó, MongoDB cho hội thoại và tài khoản, Meilisearch cho tìm kiếm hội thoại, một cơ sở dữ liệu pgvector và RAG API cho tìm kiếm tệp.
- Mô hình là khóa API, không phải phần cứng. Khóa OpenAI, Anthropic và Google được đặt trong .env, hoặc mỗi người dùng tự nhập khóa của mình trong giao diện. Mô hình cục bộ là một endpoint Ollama hoặc endpoint tương thích OpenAI khác, riêng biệt, mà bạn thêm vào librechat.yaml, nên máy này không cần GPU.
Cấu hình (của chúng tôi, dựa trên sáu container mà tệp compose khởi chạy)
| Khối lượng công việc | vCPU | RAM |
|---|---|---|
| Một người dùng hoặc một nhóm nhỏ, ít cuộc chat, không tìm kiếm tệp nặngCủa chúng tôi. Sáu container khi rảnh vẫn chiếm bộ nhớ riêng; đây là mức thấp nhất chúng tôi sẽ chạy chúng. | 2 | 4 GB |
| Một nhóm, bật tìm kiếm tệp, chỉ mục tìm kiếm ngày càng lớnCủa chúng tôi. MongoDB, Meilisearch và cơ sở dữ liệu vector đều cần dư địa, và việc tạo embedding cho tệp tải lên là công việc của CPU. | 4 | 8 GB |
| Nhiều người dùng, bộ tài liệu lớn, hội thoại được lưu trong nhiều nămCủa chúng tôi. Kho hội thoại, chỉ mục tìm kiếm và vector đều tăng theo mức sử dụng. | 8 | 16 GB |
Các gói phù hợp
5 máy, giá trực tiếp
Máy phù hợp rẻ nhất trước. Giá là giá hôm nay, theo tháng, lấy từ danh mục.
- BD-8$12.90/tháng
4 vCPU · 8 GB · 100 GB ổ đĩa · 32 TB
Rẻ nhất mà vẫn đủ chỗ cho toàn bộ stack. Dư dả cho một nhóm: sáu container, tệp tải lên và chỉ mục tìm kiếm, vẫn còn dư bộ nhớ.
- BD-12$17.90/tháng
6 vCPU · 12 GB · 200 GB ổ đĩa · 32 TB
Thêm ổ đĩa cho tệp tải lên và vector. Cho một thư viện tài liệu thực sự phía sau tính năng tìm kiếm tệp và nhiều năm hội thoại đã lưu.
- BD-24$31.90/tháng
8 vCPU · 24 GB · 300 GB ổ đĩa · 32 TB
Nhóm lớn hoặc nhiều người dùng nặng. Dư dả bộ nhớ để MongoDB, Meilisearch và cơ sở dữ liệu vector mở rộng.
- C2-4-80$37.90/tháng
2 vCPU · 4 GB · 80 GB ổ đĩa · 3 TB
Cấu hình nhỏ hơn, cho một hoặc vài người dùng. Chạy được bộ thành phần; đừng chạy thêm mô hình cục bộ hay tác vụ build trên máy này. Hãy chọn nó vì thành phố, không phải vì cấu hình.
- C4-8-160$75.90/tháng
4 vCPU · 8 GB · 160 GB ổ đĩa · 3 TB
Cấu hình thoải mái khi các thành phố của hàng rẻ nhất không phù hợp với bạn. Cùng cấu hình với hàng rẻ nhất, cho nhóm cần một thành phố khác.
Hiện chưa có preset khởi tạo cho LibreChat: việc cài đặt là các bước dưới đây, do bạn tự gõ. Đó là các lệnh từ chính tài liệu của LibreChat, cùng các secret mà tệp compose của nó yêu cầu.
Cài đặt
Bốn bước, từ tài liệu của LibreChat
Docker, bộ compose, tài khoản đầu tiên, rồi đến các mô hình của bạn. Hãy đăng ký tài khoản của bạn ngay khi bộ container chạy: tài khoản đầu tiên được tạo sẽ trở thành quản trị viên.
- Docker.
curl -fsSL https://get.docker.com | shSau đó kiểm tra rằngdocker compose versioncó phản hồi. - Clone và cấu hình.
git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .envTrong .env, đặtMEILI_MASTER_KEY(ít nhất 16 ký tự) vàADMIN_PANEL_SESSION_SECRET, thiếu nó thì trang quản trị sẽ không khởi động. Nếu container báo lỗi quyền truy cập, đặtUIDvàGIDtheo người dùng chạy compose. - Khởi động và đăng ký trước tiên.
docker compose up -ddocker compose psphải hiển thị cả sáu container đang chạy. Mở http://your-ip:3080 và nhấn Register: không có người dùng mặc định. Cho đến khi có HTTPS phía trước, hãy giữ cổng 3080 và 3000 sau tường lửa và truy cập ứng dụng qua SSH:ssh -N -L 3080:127.0.0.1:3080 root@your-server - Thêm mô hình, rồi tên miền. Đặt
OPENAI_API_KEY,ANTHROPIC_API_KEYvàGOOGLE_KEYtrong .env, hoặc để là user_provided để mỗi người dùng tự nhập khóa của mình. Với mô hình cục bộ, thêm endpoint Ollama trong librechat.yaml; từ bên trong container, địa chỉ là host.docker.internal, không phải localhost. Để có HTTPS, trỏ bản ghi A về máy chủ, đặt reverse proxy phía trước, và đặtDOMAIN_CLIENTvàDOMAIN_SERVERtrong .env thành địa chỉ công khai. Khi mọi người trong nhóm đã đăng ký, đặtALLOW_REGISTRATIONthành false.
Nói thẳng
Gói chúng tôi thực sự sẽ mua
LibreChat không nêu mức tối thiểu, và nó khởi chạy sáu container. Hãy mua máy 8 GB.
Cho LibreChat và một nhóm
BD-8 · $12.90/tháng
4 vCPU, 8 GB và 100 GB giá $12.90: toàn bộ bộ thành phần chính thức, còn dư bộ nhớ để MongoDB, Meilisearch và cơ sở dữ liệu vector mở rộng, ổ đĩa cho tệp tải lên và CPU để tạo embedding tài liệu mà chat không bị khựng. Các mô hình nằm ở nơi khác, sau một khóa API, nên máy này không bao giờ cần GPU. Nếu bạn cần một thành phố mà hàng rẻ nhất không có, C4-8-160 giá $75.90 là cùng cấu hình ở nơi khác.
Câu hỏi