运行要求
软件来自官方文档,规格注明来源
软件及安全配置均来自项目自己的文档。若项目未公布硬件要求,规格会注明出自谁的建议。
来自 docs.anythingllm.com 和项目的 Docker 指南
- “RAM 2GB, 2-core CPU with AVX2, Storage 5GB”:这是文档给出的最低配置。在云主机上,Docker 指南要求至少 2 GB RAM 和最少 10 GB 磁盘。
- AVX2 是“唯一的硬性要求”:默认向量数据库面向 2013 年及以后的 CPU 编译,缺少它服务器启动即崩溃。请在机器内部检查:
lscpu | grep -o avx2。如果没有任何输出,请将VECTOR_DB设置为其他向量数据库。 - 安装:
docker run -d -p 3001:3001 --cap-add SYS_ADMIN … mintplexlabs/anythingllm,并将存储目录挂载到 /app/server/storage。应用运行在 3001 端口。 - 聊天需要一个模型:托管服务商的 API 密钥,或运行在本机或其他机器上的 Ollama。嵌入默认在本机 CPU 上运行。带权限管理的多用户模式是 Docker 版本的功能。无需 GPU。
规格(先列项目最低要求,再列我们的建议)
| 工作负载 | vCPU | RAM |
|---|---|---|
| 文档、聊天、托管模型(官方最低配置)支持 AVX2 的双核。磁盘 5 GB,云主机上为 10 GB;仅镜像就要占用数 GB。 | 2 | 2 GB |
| 真正的文档库、内置 CPU 嵌入器、少量用户我们的建议。嵌入在这颗 CPU 上运行;在双核上处理大量上传需要很长时间。 | 4 | 8 GB |
| 同机运行 Ollama,实现完全本地化我们的建议。这是模型托管的问题,而不是 AnythingLLM 的问题:请在 Ollama 页面确定规格。 | 8 | 32 GB |
合适的套餐
5 台机器,实时报价
最便宜的适配机器排在最前。价格为今日价格,按月计,取自产品目录。无论购买哪一款,请在第一分钟内运行 AVX2 检查。
- GL2-4$11.90/月
2 vCPU · 4 GB · 40 GB 磁盘 · 不计流量
满足下限的最便宜机器,不计流量。2 vCPU / 4 GB / 40 GB,内存是文档要求的两倍,上传流量不计量。请先运行 AVX2 检查,再做其他操作。
- BD-8$12.90/月
4 vCPU · 8 GB · 100 GB 磁盘 · 32 TB
我们会选择的:4 核跑嵌入器。多花一美元即可获得 4 vCPU、8 GB、100 GB 和 32 TB 流量。在四核而非双核上为文档库做嵌入,差别是能明显感受到的。
- BD-24$31.90/月
8 vCPU · 24 GB · 300 GB 磁盘 · 32 TB
8 vCPU / 24 GB,适合多用户并在同机运行 Ollama。可在同机用 Ollama 运行 8B 模型(速度较慢),并容纳一个团队的文档。
- C2-4-80$37.90/月
2 vCPU · 4 GB · 80 GB 磁盘 · 3 TB
下限配置,遍布数十个城市。2 vCPU / 4 GB / 80 GB。按城市选择。使用托管模型,文档库规模适中。
- C4-8-160$75.90/月
4 vCPU · 8 GB · 160 GB 磁盘 · 3 TB
4 vCPU / 8 GB / 160 GB,覆盖数十个城市。舒适的规格,磁盘足以容纳大型文档库及其向量。
目前还没有 AnythingLLM 的一键启动预设:安装需要您亲自输入下面五个步骤。第 3 步与项目官方命令有一个参数不同,用于将端口绑定到回环地址,步骤中已作说明。
安装
五个步骤,取自项目的 Docker 指南
检查 CPU,安装 Docker,在回环地址上运行容器,通过 SSH 完成设置,然后绑定域名。
- 先检查 AVX2。
lscpu | grep -o avx2输出中必须有 avx2。官方文档明确指出,这是唯一的硬件要求,且无法模拟;没有该指令集的机器需要在首次启动前将VECTOR_DB设置为外部向量数据库。 - Docker。
curl -fsSL https://get.docker.com | sh - 在回环地址上运行。
export STORAGE_LOCATION=/opt/anythingllm && mkdir -p $STORAGE_LOCATION && touch $STORAGE_LOCATION/.env docker run -d --name anythingllm --restart unless-stopped -p 127.0.0.1:3001:3001 --cap-add SYS_ADMIN --add-host=host.docker.internal:host-gateway -v $STORAGE_LOCATION:/app/server/storage -v $STORAGE_LOCATION/.env:/app/server/.env -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm这是项目官方命令,只改了一处:用-p 127.0.0.1:3001:3001代替-p 3001:3001,这样在您设置密码之前,聊天界面不会暴露在公网上。存储目录中保存着数据库、向量和您的文档,请做好备份。 - 通过 SSH 完成设置。
ssh -N -L 3001:127.0.0.1:3001 root@your-server然后访问 http://127.0.0.1:3001。选择 LLM:托管服务商及其 API 密钥,或者如果 Ollama 运行在本机,则使用http://host.docker.internal:11434。在其他人能访问之前,请在 Settings 中开启多用户模式或设置实例密码。 - 绑定域名。将 A 记录指向服务器,安装 Caddy,在 Caddyfile 中为您的域名添加一段
reverse_proxy 127.0.0.1:3001,即可获取证书并在 3001 端口前提供 HTTPS。防火墙只开放 80 和 443 端口,其余一律不开。
说实话
我们实际会买哪台
下限是 2 核 2 GB,最便宜的那一行就能满足。但我们仍会多花这一美元。
适合您真正会用的文档库
BD-8 · $12.90/月
4 vCPU、8 GB 和 100 GB,价格 $12.90,对比 GL2-4($11.90):每月多花一美元,就能为每次上传都在本机运行的嵌入器多换来两个核心,并为文档及其向量提供 100 GB 空间。模型在别处,通过 API 密钥调用,因此无需 GPU;如果您想在同机运行 Ollama,请阅读 Ollama 页面,按模型而非 AnythingLLM 来选购。无论选哪一款,请在上传任何文件之前先运行 AVX2 检查。
常见问题