跳至正文

解决方案 · 多模型聊天

用于 LibreChat 的 VPS

LibreChat 是开源聊天界面,可同时接入多种模型:OpenAI、Anthropic、Google,以及通过 OpenAI 兼容端点接入的本地模型,并提供智能体、文件搜索和整个团队的账户。其文档未公布任何 RAM 或 CPU 数据,而官方 Docker Compose 文件会启动六个容器,因此我们据此选配规格。BD-8,每月 $12.90,是空间真正够用的最便宜机器;C2-4-80,$37.90,是适合单个用户或小团体的较小规格。

运行要求

软件来自官方文档,规格注明来源

软件及安全配置均来自项目自己的文档。若项目未公布硬件要求,规格会注明出自谁的建议。

来自 LibreChat 文档及其 compose 文件

  • Linux 上的 Git 和 Docker。librechat.ai 上的 Docker 指南只列出了这些,没有给出任何 RAM、CPU 或磁盘要求。
  • 安装:克隆仓库,然后运行 cp .env.example .env && docker compose up -d。应用在 3080 端口响应;第二个容器(管理面板)在 3000 端口响应。
  • 官方 compose 文件会启动六个容器:LibreChat 应用、其管理面板、存储对话和账户的 MongoDB、用于对话搜索的 Meilisearch,以及用于文件搜索的 pgvector 数据库和 RAG API。
  • 模型靠的是密钥,而不是硬件。OpenAI、Anthropic 和 Google 的密钥写入 .env,或由每位用户在界面中自行输入。本地模型是一个单独的 Ollama 或其他 OpenAI 兼容端点,需在 librechat.yaml 中添加,因此这台机器不需要 GPU。

规格(我们根据 compose 文件启动的六个容器估算)

按应用场景选择规格
工作负载vCPURAM
单个用户或小团体,少量对话,无大量文件搜索我们的估算。六个容器空闲时各自就会占用内存;这是我们认为运行它们的最低配置。24 GB
团队使用,开启文件搜索,搜索索引不断增长我们的估算。MongoDB、Meilisearch 和向量数据库各自都需要余量,而对上传文件做嵌入是 CPU 密集型工作。48 GB
大量用户、大型文档集、对话保存多年我们的估算。对话存储、搜索索引和向量都会随使用而增长。816 GB

合适的套餐

5 台机器,实时报价

最便宜的合适机器排在最前。价格为今日价格,按月计,取自产品目录。

  • BD-8$12.90/月

    4 vCPU · 8 GB · 100 GB 磁盘 · 32 TB

    能容纳整套服务的最低价选择。足以满足团队使用:六个容器、上传文件和搜索索引,内存仍有余量。

  • BD-12$17.90/月

    6 vCPU · 12 GB · 200 GB 磁盘 · 32 TB

    为上传文件和向量提供更多磁盘。适用于文件搜索背后的大型文档库,以及多年保存的对话。

  • BD-24$31.90/月

    8 vCPU · 24 GB · 300 GB 磁盘 · 32 TB

    大型团队或多名重度用户。为 MongoDB、Meilisearch 和向量数据库留有充足的内存增长空间。

  • C2-4-80$37.90/月

    2 vCPU · 4 GB · 80 GB 磁盘 · 3 TB

    较小规格,适合单个或少数用户。可运行这个堆栈;不要再在上面运行本地模型或构建任务。选择它是为了城市,而不是规格。

  • C4-8-160$75.90/月

    4 vCPU · 8 GB · 160 GB 磁盘 · 3 TB

    当最便宜那一行的城市不适合您时的宽裕规格。与最便宜那一行相同的配置,适合需要其他城市的团队。

目前还没有 LibreChat 的开机预设:安装需要您自己输入下面的步骤。这些是 LibreChat 官方文档中的命令,外加其 compose 文件所要求的密钥。

安装

四个步骤,来自 LibreChat 文档

先装 Docker,再部署 compose 堆栈,创建第一个账户,然后接入您的模型。堆栈一启动就立即注册您自己的账户:第一个创建的账户会成为管理员。

  1. Docker。curl -fsSL https://get.docker.com | sh 然后检查 docker compose version 是否有响应。
  2. 克隆并配置。git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env 在 .env 中设置 MEILI_MASTER_KEY(至少 16 个字符)和 ADMIN_PANEL_SESSION_SECRET,缺少后者管理面板将无法启动。如果容器报告权限错误,请将 UID 和 GID 设为运行 compose 的用户。
  3. 启动并首先注册。docker compose up -d docker compose ps 应显示全部六个容器均已运行。打开 http://your-ip:3080 并点击“注册”:系统没有默认用户。在部署 HTTPS 之前,请将 3080 和 3000 端口置于防火墙之后,并通过 SSH 访问应用:ssh -N -L 3080:127.0.0.1:3080 root@your-server
  4. 添加模型,然后绑定域名。在 .env 中填入 OPENAI_API_KEY、ANTHROPIC_API_KEY 和 GOOGLE_KEY,或将其保留为 user_provided,让每位用户输入自己的密钥。如需本地模型,请在 librechat.yaml 中添加 Ollama 端点;从容器内部访问时,地址是 host.docker.internal,而不是 localhost。如需 HTTPS,请将 A 记录指向服务器,在前面部署反向代理,并在 .env 中将 DOMAIN_CLIENT 和 DOMAIN_SERVER 设为公网地址。您的用户注册完成后,将 ALLOW_REGISTRATION 设为 false。

说实话

我们实际会买哪台

LibreChat 没有给出最低要求,而它会启动六个容器。请选择 8 GB 的机器。

适用于 LibreChat 和团队

BD-8 · $12.90/月

4 vCPU、8 GB 和 100 GB,$12.90:可运行整个官方堆栈,为 MongoDB、Meilisearch 和向量数据库留出增长所需的内存,有磁盘存放上传文件,有 CPU 对文档做嵌入而不让聊天卡顿。模型在别处,通过 API 密钥调用,因此这台机器永远不需要 GPU。如果您需要最便宜那一行没有的城市,C4-8-160,$75.90,是其他地点的相同配置。

常见问题

购买前大家常问的问题。

LibreChat 的系统要求是什么?
其文档没有公布任何要求。Docker 指南把 Git 和 Docker 列为前提条件,未提及 RAM、CPU 或磁盘。我们能参考的是官方 compose 文件,它会启动六个容器:LibreChat 应用、管理面板、MongoDB、Meilisearch、一个 pgvector 数据库和 RAG API。本页的规格是我们根据这个堆栈推算的,表格中也注明了这一点。对团队来说,8 GB 的机器才不再显得紧张。
LibreChat 需要 GPU 吗?
不需要。LibreChat 只是界面:它调用您配置的任意模型,可通过 OpenAI、Anthropic、Google 等的 API 密钥,或通过 Ollama 等自定义端点。如果您还想自行托管模型,那需要另一台机器,也是另一个问题:Ollama 页面按模型选配 CPU 推理规格,而要获得交互级速度,请看 GPU 产品线。
它使用哪些端口?
compose 文件将应用发布在 .env 中 PORT 指定的端口(默认 3080),管理面板发布在 3000。MongoDB、Meilisearch、向量数据库和 RAG API 不对外发布,只在 compose 网络内部。应用是纯 HTTP,因此在反向代理为您提供 HTTPS 之前,请用防火墙屏蔽 3080 和 3000,并先注册您自己的账户:第一个创建的账户会成为管理员。
我需要哪些 API 密钥?
启动堆栈不需要任何密钥,您想使用的每家服务商各需一个。在 .env.example 中,OPENAI_API_KEY、ANTHROPIC_API_KEY 和 GOOGLE_KEY 默认为 user_provided,即每位用户在界面中输入自己的密钥;如要让所有人共用一个密钥,请在此填入真实密钥。文件搜索是单独的:RAG API 默认使用 OpenAI embeddings,且 RAG_OPENAI_API_KEY 会为其覆盖 OPENAI_API_KEY,因此除非更换服务商,文件搜索需要一个 embeddings 密钥。
如何搭配本地模型使用?
在 librechat.yaml 中添加一个自定义端点,指向与 OpenAI 兼容的服务器(例如 Ollama),地址为其 11434 端口上的 /v1/。LibreChat 自己的指南指出,当 LibreChat 在容器中运行时,应使用 host.docker.internal 而不是 localhost;Ollama 会忽略 API 密钥,但该字段不能为空。如果模型不是小模型,请在单独的机器上运行;本页的机器是按界面本身的需求选配的。
LibreChat、Open WebUI 还是 Dify?
LibreChat 和 Open WebUI 都是面向多种模型的聊天界面,LibreChat 更侧重多用户账户、智能体,以及跨多家托管服务商的 MCP 工具。Dify 是 LLM 应用平台:用于构建并对外提供提示词、工作流和 RAG 应用,而不是供团队使用的聊天前端。它们都能在同样的机器上运行,我们为每一个都准备了页面。
如何更新?
文档中的步骤:docker compose down,删除旧镜像,git pull,docker compose pull,然后 docker compose up。请先备份 data-node 目录(MongoDB)、Meilisearch 数据目录和您的 .env:它们分别是对话、搜索索引和密钥。