运行要求
软件来自官方文档,规格注明来源
软件及安全配置均来自项目自己的文档。若项目未公布硬件要求,规格会注明出自谁的建议。
来自 LibreChat 文档及其 compose 文件
- Linux 上的 Git 和 Docker。librechat.ai 上的 Docker 指南只列出了这些,没有给出任何 RAM、CPU 或磁盘要求。
- 安装:克隆仓库,然后运行
cp .env.example .env && docker compose up -d。应用在 3080 端口响应;第二个容器(管理面板)在 3000 端口响应。 - 官方 compose 文件会启动六个容器:LibreChat 应用、其管理面板、存储对话和账户的 MongoDB、用于对话搜索的 Meilisearch,以及用于文件搜索的 pgvector 数据库和 RAG API。
- 模型靠的是密钥,而不是硬件。OpenAI、Anthropic 和 Google 的密钥写入 .env,或由每位用户在界面中自行输入。本地模型是一个单独的 Ollama 或其他 OpenAI 兼容端点,需在 librechat.yaml 中添加,因此这台机器不需要 GPU。
规格(我们根据 compose 文件启动的六个容器估算)
| 工作负载 | vCPU | RAM |
|---|---|---|
| 单个用户或小团体,少量对话,无大量文件搜索我们的估算。六个容器空闲时各自就会占用内存;这是我们认为运行它们的最低配置。 | 2 | 4 GB |
| 团队使用,开启文件搜索,搜索索引不断增长我们的估算。MongoDB、Meilisearch 和向量数据库各自都需要余量,而对上传文件做嵌入是 CPU 密集型工作。 | 4 | 8 GB |
| 大量用户、大型文档集、对话保存多年我们的估算。对话存储、搜索索引和向量都会随使用而增长。 | 8 | 16 GB |
合适的套餐
5 台机器,实时报价
最便宜的合适机器排在最前。价格为今日价格,按月计,取自产品目录。
- BD-8$12.90/月
4 vCPU · 8 GB · 100 GB 磁盘 · 32 TB
能容纳整套服务的最低价选择。足以满足团队使用:六个容器、上传文件和搜索索引,内存仍有余量。
- BD-12$17.90/月
6 vCPU · 12 GB · 200 GB 磁盘 · 32 TB
为上传文件和向量提供更多磁盘。适用于文件搜索背后的大型文档库,以及多年保存的对话。
- BD-24$31.90/月
8 vCPU · 24 GB · 300 GB 磁盘 · 32 TB
大型团队或多名重度用户。为 MongoDB、Meilisearch 和向量数据库留有充足的内存增长空间。
- C2-4-80$37.90/月
2 vCPU · 4 GB · 80 GB 磁盘 · 3 TB
较小规格,适合单个或少数用户。可运行这个堆栈;不要再在上面运行本地模型或构建任务。选择它是为了城市,而不是规格。
- C4-8-160$75.90/月
4 vCPU · 8 GB · 160 GB 磁盘 · 3 TB
当最便宜那一行的城市不适合您时的宽裕规格。与最便宜那一行相同的配置,适合需要其他城市的团队。
目前还没有 LibreChat 的开机预设:安装需要您自己输入下面的步骤。这些是 LibreChat 官方文档中的命令,外加其 compose 文件所要求的密钥。
安装
四个步骤,来自 LibreChat 文档
先装 Docker,再部署 compose 堆栈,创建第一个账户,然后接入您的模型。堆栈一启动就立即注册您自己的账户:第一个创建的账户会成为管理员。
- Docker。
curl -fsSL https://get.docker.com | sh然后检查docker compose version是否有响应。 - 克隆并配置。
git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env在 .env 中设置MEILI_MASTER_KEY(至少 16 个字符)和ADMIN_PANEL_SESSION_SECRET,缺少后者管理面板将无法启动。如果容器报告权限错误,请将UID和GID设为运行 compose 的用户。 - 启动并首先注册。
docker compose up -ddocker compose ps应显示全部六个容器均已运行。打开 http://your-ip:3080 并点击“注册”:系统没有默认用户。在部署 HTTPS 之前,请将 3080 和 3000 端口置于防火墙之后,并通过 SSH 访问应用:ssh -N -L 3080:127.0.0.1:3080 root@your-server - 添加模型,然后绑定域名。在 .env 中填入
OPENAI_API_KEY、ANTHROPIC_API_KEY和GOOGLE_KEY,或将其保留为 user_provided,让每位用户输入自己的密钥。如需本地模型,请在 librechat.yaml 中添加 Ollama 端点;从容器内部访问时,地址是 host.docker.internal,而不是 localhost。如需 HTTPS,请将 A 记录指向服务器,在前面部署反向代理,并在 .env 中将DOMAIN_CLIENT和DOMAIN_SERVER设为公网地址。您的用户注册完成后,将ALLOW_REGISTRATION设为 false。
说实话
我们实际会买哪台
LibreChat 没有给出最低要求,而它会启动六个容器。请选择 8 GB 的机器。
适用于 LibreChat 和团队
BD-8 · $12.90/月
4 vCPU、8 GB 和 100 GB,$12.90:可运行整个官方堆栈,为 MongoDB、Meilisearch 和向量数据库留出增长所需的内存,有磁盘存放上传文件,有 CPU 对文档做嵌入而不让聊天卡顿。模型在别处,通过 API 密钥调用,因此这台机器永远不需要 GPU。如果您需要最便宜那一行没有的城市,C4-8-160,$75.90,是其他地点的相同配置。
常见问题