솔루션 · 문서 채팅

AnythingLLM용 VPS

AnythingLLM은 자체 문서를 대상으로 하는 비공개 채팅 작업 공간입니다. 파일을 업로드하면 내장 벡터 데이터베이스에 임베딩되고, API 키를 통한 호스팅 모델이나 Ollama를 통한 로컬 모델로 문서와 대화합니다. 문서에서는 RAM 2 GB, AVX2를 지원하는 2코어 CPU, 디스크 5 GB를 요구하며 AVX2를 유일한 필수 요건이라고 합니다. 월 $11.90의 GL2-4이 이 최소 사양을 충족하는 가장 저렴한 머신이며, 저희라면 $12.90의 BD-8를 구매하겠습니다. 임베더가 이 머신의 CPU에서 실행되기 때문입니다.

BD-8 배포 전체 플랜 비교

필요한 것

문서 기반 소프트웨어, 출처가 표시된 크기

소프트웨어와 보안 구성은 프로젝트 자체 문서를 따릅니다. 프로젝트가 하드웨어 수치를 공개하지 않는 경우, 각 크기에 누구의 기준인지 표시합니다.

docs.anythingllm.com 및 프로젝트 Docker 가이드 기준

“RAM 2GB, AVX2를 지원하는 2코어 CPU, 스토리지 5GB”: 문서에 나온 최소 사양입니다. 클라우드 머신의 경우 Docker 가이드는 RAM 최소 2 GB, 디스크 최소 10 GB를 요구합니다.
AVX2는 "유일한 필수 요건"입니다. 기본 벡터 데이터베이스는 2013년 이후 CPU용으로 빌드되어 있어, 이 기능이 없으면 서버가 시작 시 종료됩니다. 머신 안에서 확인하십시오: lscpu | grep -o avx2. 아무것도 출력되지 않으면 VECTOR_DB를 다른 벡터 데이터베이스로 설정하십시오.
설치: /app/server/storage에 스토리지 디렉터리를 마운트하여 docker run -d -p 3001:3001 --cap-add SYS_ADMIN … mintplexlabs/anythingllm. 앱은 포트 3001에서 실행됩니다.
채팅에는 모델이 필요합니다: 호스팅 제공업체의 API 키, 또는 같은 머신이나 다른 머신의 Ollama. 임베딩은 기본적으로 이 머신의 CPU에서 실행됩니다. 권한이 있는 멀티 유저 모드는 Docker 버전 기능입니다. GPU 없음.

크기(프로젝트 최소 사양, 그다음 저희 기준)

워크로드별 크기 선택
워크로드	vCPU	RAM
문서, 채팅, 호스팅 모델(공식 최소 사양)AVX2 지원 2코어. 디스크 5 GB, 클라우드 머신에서는 10 GB. 이미지만으로도 몇 GB를 차지합니다.	2	2 GB
실제 문서 라이브러리, 내장 CPU 임베더, 소수 사용자저희 기준. 임베딩이 이 CPU에서 실행되며, 2코어에서는 대용량 업로드에 시간이 오래 걸립니다.	4	8 GB
완전한 로컬 스택을 위해 옆에 Ollama저희 기준. 이는 AnythingLLM이 아니라 모델 호스팅 문제이므로 Ollama 페이지에서 크기를 정하십시오.	8	32 GB

적합한 플랜

머신 5개, 실시간 가격

맞는 머신 중 가장 저렴한 것부터. 가격은 카탈로그에서 읽은 오늘 기준 월 요금입니다. 어느 것을 구매하든 처음 1분 안에 AVX2 확인을 실행하십시오.

GL2-4$11.90/월
2 vCPU · 4 GB · 40 GB 디스크 · Unmetered
최소 사양을 충족하는 가장 저렴한 플랜, 트래픽 비집계. 2 vCPU / 4 GB / 40 GB로 문서 요구치의 두 배 메모리이며, 업로드용 트래픽은 집계되지 않습니다. 무엇보다 먼저 AVX2 확인을 실행하십시오.
배포
BD-8$12.90/월
4 vCPU · 8 GB · 100 GB 디스크 · 32 TB
저희가 구매할 플랜: 임베더를 위한 4코어. 1달러만 더 내면 4 vCPU, 8 GB, 100 GB, 전송량 32 TB. 라이브러리 임베딩을 2코어 대신 4코어로 하는 차이가 체감됩니다.
배포
BD-24$31.90/월
8 vCPU · 24 GB · 300 GB 디스크 · 32 TB
여러 사용자와 함께 Ollama를 옆에 두는 8 vCPU / 24 GB. 같은 머신의 Ollama에서 8B 모델을 느리게 실행할 여유와 팀의 문서를 위한 공간.
배포
C2-4-80$37.90/월
2 vCPU · 4 GB · 80 GB 디스크 · 3 TB
최소 사양 구성, 수십 개 도시에서. 2 vCPU / 4 GB / 80 GB. 도시를 보고 선택하십시오. 호스팅 모델, 소규모 라이브러리.
배포
C4-8-160$75.90/월
4 vCPU · 8 GB · 160 GB 디스크 · 3 TB
수십 개 도시에서 4 vCPU / 8 GB / 160 GB. 대규모 라이브러리와 그 벡터를 위한 디스크를 갖춘 여유 있는 크기.
배포

적합한 플랜과 실시간 가격
플랜	vCPU	RAM	디스크	전송량	가격	배포
GL2-4최소 사양을 충족하는 가장 저렴한 플랜, 트래픽 비집계2 vCPU / 4 GB / 40 GB로 문서 요구치의 두 배 메모리이며, 업로드용 트래픽은 집계되지 않습니다. 무엇보다 먼저 AVX2 확인을 실행하십시오.	2	4 GB	40 GB	Unmetered	$11.90/월	배포
BD-8저희가 구매할 플랜: 임베더를 위한 4코어1달러만 더 내면 4 vCPU, 8 GB, 100 GB, 전송량 32 TB. 라이브러리 임베딩을 2코어 대신 4코어로 하는 차이가 체감됩니다.	4	8 GB	100 GB	32 TB	$12.90/월	배포
BD-24여러 사용자와 함께 Ollama를 옆에 두는 8 vCPU / 24 GB같은 머신의 Ollama에서 8B 모델을 느리게 실행할 여유와 팀의 문서를 위한 공간.	8	24 GB	300 GB	32 TB	$31.90/월	배포
C2-4-80최소 사양 구성, 수십 개 도시에서2 vCPU / 4 GB / 80 GB. 도시를 보고 선택하십시오. 호스팅 모델, 소규모 라이브러리.	2	4 GB	80 GB	3 TB	$37.90/월	배포
C4-8-160수십 개 도시에서 4 vCPU / 8 GB / 160 GB대규모 라이브러리와 그 벡터를 위한 디스크를 갖춘 여유 있는 크기.	4	8 GB	160 GB	3 TB	$75.90/월	배포

아직 AnythingLLM용 시작 프리셋은 없습니다: 설치는 아래 5단계를 직접 입력하는 방식입니다. 3단계는 포트를 루프백에 바인딩하는 플래그 하나가 프로젝트의 명령과 다르며, 그 점을 명시합니다.

설치

프로젝트 Docker 가이드에 따른 5단계

CPU를 확인하고, Docker를 설치하고, 컨테이너를 루프백에서 실행하고, SSH로 설정한 다음 도메인을 연결합니다.

먼저 AVX2를 확인하십시오. lscpu | grep -o avx2 avx2가 출력되어야 합니다. 문서에는 이것이 유일한 하드웨어 규칙이며 에뮬레이션할 수 없다고 명시되어 있습니다. 이 기능이 없는 머신은 첫 시작 전에 VECTOR_DB를 외부 벡터 데이터베이스로 설정해야 합니다.
Docker. curl -fsSL https://get.docker.com | sh
루프백에서 실행하십시오. export STORAGE_LOCATION=/opt/anythingllm && mkdir -p $STORAGE_LOCATION && touch $STORAGE_LOCATION/.env docker run -d --name anythingllm --restart unless-stopped -p 127.0.0.1:3001:3001 --cap-add SYS_ADMIN --add-host=host.docker.internal:host-gateway -v $STORAGE_LOCATION:/app/server/storage -v $STORAGE_LOCATION/.env:/app/server/.env -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm 프로젝트의 명령에서 한 가지만 바꿨습니다: -p 3001:3001 대신 -p 127.0.0.1:3001:3001를 사용하여 비밀번호를 설정하기 전에 채팅이 공개 인터넷에 노출되지 않도록 합니다. 스토리지 디렉터리에는 데이터베이스, 벡터, 문서가 저장되므로 백업하십시오.
SSH로 설정하십시오. ssh -N -L 3001:127.0.0.1:3001 root@your-server 다음 http://127.0.0.1:3001. LLM을 선택합니다: 호스팅 제공업체와 API 키, 또는 이 머신에서 실행 중이라면 http://host.docker.internal:11434의 Ollama. 다른 사람이 접근하기 전에 설정에서 멀티 유저 모드를 켜거나 인스턴스 비밀번호를 설정하십시오.
도메인을 연결하십시오. A 레코드를 서버로 지정하고 Caddy를 설치한 뒤, 도메인 아래에 Caddyfile 블록 하나 reverse_proxy 127.0.0.1:3001를 두면 인증서를 받아 3001 앞에 HTTPS를 둡니다. 방화벽에서는 80과 443만 여십시오.

솔직하게

실제로 저희가 구매할 플랜

최소 사양은 2코어와 2 GB이며, 가장 저렴한 행이 이를 충족합니다. 그래도 저희라면 1달러를 더 쓰겠습니다.

실제로 사용할 문서 라이브러리용

BD-8 · $12.90/월

4 vCPU, 8 GB, 100 GB 구성이 $12.90이며, GL2-4는 $11.90입니다. 월 1달러 차이로 업로드할 때마다 이 머신에서 실행되는 임베더용 코어가 두 개 더 생기고, 문서와 그 벡터를 위한 100 GB가 추가됩니다. 모델은 API 키 너머 다른 곳에 있으므로 GPU는 필요 없습니다. Ollama를 함께 실행하려면 Ollama 페이지를 읽고 AnythingLLM이 아니라 모델에 맞춰 구매하십시오. 어느 플랜이든 파일을 하나라도 업로드하기 전에 AVX2 확인을 먼저 실행하십시오.

BD-8 배포 GL2-4, 최소 사양을 충족하는 가장 저렴한 플랜

질문

구매 전에 자주 묻는 질문.

AnythingLLM의 시스템 요구 사항은 무엇입니까?

문서에서는 최소 RAM 2 GB, AVX2 지원 2코어 CPU, 스토리지 5 GB를 제시하며, 이 정도면 문서 일부를 저장하고 채팅하며 기능을 사용하기에 충분하다고 합니다. 프로젝트 Docker 가이드는 클라우드 머신에서는 최소 RAM 2 GB와 디스크 10 GB를 목표로 하라고 덧붙입니다. 디스크는 문서, 벡터, 로컬 모델에 따라 늘어나기 때문입니다. 문서에는 또한 앱이 외부 서비스를 감싸는 래퍼이므로 모델과 임베더가 다른 곳에 있으면 가볍고, 같은 머신에서 실행되면 무거워진다고 나와 있습니다.

AVX2 요건이란 무엇이며, 제 VPS에 있습니까?

기본 벡터 데이터베이스인 LanceDB는 AVX2 명령어 세트를 지원하는 CPU(Intel Haswell, 2013년 및 이후)용으로 컴파일되어 있습니다. 이 기능이 없으면 데이터베이스가 로드되는 순간 서버 프로세스가 종료되며, 문서에서는 이를 유일한 하드웨어 필수 요건이라고 합니다. 가상 머신이 함정입니다: 하이퍼바이저가 최신 호스트에서도 AVX2를 숨기는 범용 CPU 모델을 제공할 수 있으므로, 문서에서는 호스트가 아닌 게스트 내부에서 lscpu | grep -o avx2로 확인하라고 합니다. 저희는 카탈로그에서 확인할 수 없는 CPU 플래그를 약속하지 않으므로, 처음 1분 안에 이 한 줄을 실행하십시오. 아무것도 출력되지 않으면 VECTOR_DB를 별도 서비스로 실행되는 다른 지원 벡터 데이터베이스 중 하나로 설정하십시오.

GPU가 필요합니까?

아니요. AnythingLLM 자체는 웹 앱, 문서 파이프라인, 그리고 기본적으로 CPU 전용 임베더를 실행합니다. 채팅 답변은 연결한 LLM에서 나옵니다: 문서에서 오버헤드가 거의 없다고 하는 API 키를 통한 호스팅 제공업체, 또는 Ollama를 통한 로컬 모델. 문서 자체의 팁은 AnythingLLM 머신에 GPU가 없다면 GPU가 있는 다른 머신에 로컬 모델을 호스팅하라는 것입니다. 그것은 이 페이지가 아니라 Ollama 페이지와 GPU 라인의 주제입니다.

설치 후 인터넷에 공개됩니까?

프로젝트의 명령은 포트 3001을 모든 인터페이스에 공개하며, 새 인스턴스는 직접 설정하기 전까지 비밀번호가 없습니다. 이 페이지의 설치는 대신 3001을 127.0.0.1에 바인딩하므로, 도메인을 추가하기 전까지는 SSH 터널로만 접속할 수 있습니다. 그런 다음 HTTPS를 앞에 두기 전에 설정에서 인스턴스 비밀번호를 설정하거나 README에 Docker 버전 기능으로 명시된 멀티 유저 모드를 켜십시오.

데이터는 어디에 저장됩니까?

/app/server/storage에 마운트하는 스토리지 디렉터리에 있습니다: SQLite 데이터베이스, LanceDB 벡터, 업로드된 문서, 로컬로 다운로드한 모델. Docker 가이드는 아무것도 잃지 않고 새 이미지를 받을 수 있도록 이를 호스트에 마운트하라고 안내합니다. 이 디렉터리와 옆의 .env를 백업하십시오. 이 둘이 인스턴스 전체입니다.

같은 머신의 Ollama를 사용할 수 있습니까?

예. 컨테이너 내부에서 호스트는 http://host.docker.internal:11434이며, Linux에서는 실행 명령에 --add-host=host.docker.internal:host-gateway가 필요합니다. 위 단계에 포함되어 있습니다. 이 경우 모델에 맞춰 머신 크기를 정하십시오: 8B 모델은 AnythingLLM 외에 자체적으로 8 GB가 필요하며, CPU에서는 초당 몇 토큰 속도로 답합니다. 이 페이지에서 이를 여유 있게 감당하는 가장 작은 행은 24 GB 행입니다.

더 읽어 보기