솔루션 · 다중 모델 채팅
LibreChat용 VPS
LibreChat은 여러 모델을 한 번에 쓰는 오픈 소스 채팅 인터페이스입니다. OpenAI, Anthropic, Google, 그리고 OpenAI 호환 엔드포인트를 통한 로컬 모델을 지원하며, 에이전트, 파일 검색, 팀 전체의 계정 기능을 갖추고 있습니다. 문서에는 RAM이나 CPU 수치가 없고 공식 Docker Compose 파일이 컨테이너 6개를 시작하므로, 이를 기준으로 크기를 정했습니다. 월 $12.90의 BD-8은 실제로 여유가 있는 가장 저렴한 머신이며, $37.90의 C2-4-80는 1명 또는 소규모 그룹용 작은 구성입니다.
필요한 것
문서 기반 소프트웨어, 출처가 표시된 크기
소프트웨어와 보안 구성은 프로젝트 자체 문서를 따릅니다. 프로젝트가 하드웨어 수치를 공개하지 않는 경우, 각 크기에 누구의 기준인지 표시합니다.
LibreChat 문서와 compose 파일 기준
- Linux에서 Git과 Docker. librechat.ai의 Docker 가이드에는 그 외에는 아무것도 나와 있지 않으며, RAM, CPU, 디스크 요구 사항도 명시되어 있지 않습니다.
- 설치: 저장소를 복제한 다음
cp .env.example .env && docker compose up -d. 앱은 3080 포트에서, 두 번째 컨테이너인 관리자 패널은 3000 포트에서 응답합니다. - 공식 compose 파일은 컨테이너 6개를 시작합니다: LibreChat 앱, 관리자 패널, 대화와 계정용 MongoDB, 대화 검색용 Meilisearch, 파일 검색용 pgvector 데이터베이스와 RAG API.
- 모델은 하드웨어가 아니라 키입니다. OpenAI, Anthropic, Google 키는 .env에 넣거나 각 사용자가 인터페이스에서 직접 입력합니다. 로컬 모델은 librechat.yaml에 추가하는 별도의 Ollama 또는 기타 OpenAI 호환 엔드포인트이므로 이 머신에는 GPU가 필요하지 않습니다.
크기(compose 파일이 시작하는 컨테이너 6개를 바탕으로 한 저희 기준)
| 워크로드 | vCPU | RAM |
|---|---|---|
| 1명 또는 소규모 그룹, 적은 채팅, 많지 않은 파일 검색저희 기준. 컨테이너 6개는 유휴 상태에서도 각자 메모리를 사용합니다. 저희라면 최소 이 크기에서 실행합니다. | 2 | 4 GB |
| 팀, 파일 검색 사용, 검색 인덱스 증가저희 기준. MongoDB, Meilisearch, 벡터 데이터베이스는 각각 여유 공간이 필요하며, 업로드 임베딩은 CPU 작업입니다. | 4 | 8 GB |
| 많은 사용자, 대용량 문서, 수년간 보관하는 대화저희 기준. 대화 저장소, 검색 인덱스, 벡터는 모두 사용할수록 커집니다. | 8 | 16 GB |
적합한 플랜
머신 5개, 실시간 가격
조건에 맞는 가장 저렴한 머신부터 표시합니다. 가격은 카탈로그에서 가져온 오늘 기준 월 가격입니다.
- BD-8$12.90/월
4 vCPU · 8 GB · 100 GB 디스크 · 32 TB
전체 스택을 여유 있게 실행할 수 있는 가장 저렴한 옵션. 팀에 여유 있는 크기: 컨테이너 6개, 업로드, 검색 인덱스를 처리하고도 메모리가 남습니다.
- BD-12$17.90/월
6 vCPU · 12 GB · 200 GB 디스크 · 32 TB
업로드와 벡터를 위한 더 많은 디스크. 파일 검색에 쓰이는 실제 문서 라이브러리와 수년간 저장된 대화를 위한 크기입니다.
- BD-24$31.90/월
8 vCPU · 24 GB · 300 GB 디스크 · 32 TB
대규모 팀 또는 사용량이 많은 여러 사용자. MongoDB, Meilisearch, 벡터 데이터베이스가 커질 수 있는 충분한 메모리.
- C2-4-80$37.90/월
2 vCPU · 4 GB · 80 GB 디스크 · 3 TB
1명 또는 소수 사용자를 위한 작은 구성. 스택은 실행되지만, 로컬 모델이나 빌드까지 함께 실행하지는 마십시오. 크기가 아니라 도시 때문에 선택하는 플랜입니다.
- C4-8-160$75.90/월
4 vCPU · 8 GB · 160 GB 디스크 · 3 TB
가장 저렴한 행의 도시가 맞지 않을 때의 여유 있는 크기. 가장 저렴한 행과 같은 구성으로, 다른 도시가 필요한 팀을 위한 것입니다.
LibreChat용 시작 프리셋은 아직 없습니다. 설치는 아래 단계를 직접 입력하는 것입니다. LibreChat 자체 문서의 명령에 compose 파일이 요구하는 시크릿을 더한 것입니다.
설치
LibreChat 문서에 나온 4단계
Docker, compose 스택, 첫 계정, 그다음 모델 순서입니다. 스택이 실행되면 즉시 본인 계정을 등록하십시오. 처음 생성된 계정이 관리자가 됩니다.
- Docker.
curl -fsSL https://get.docker.com | sh그다음docker compose version가 응답하는지 확인하십시오. - 클론 및 구성.
git clone https://github.com/LibreChat-AI/LibreChat.git cd LibreChat && cp .env.example .env.env에서MEILI_MASTER_KEY(16자 이상)와ADMIN_PANEL_SESSION_SECRET을 설정하십시오. 이 값이 없으면 관리자 패널이 시작되지 않습니다. 컨테이너에서 권한 오류가 발생하면UID와GID를 compose를 실행하는 사용자로 설정하십시오. - 시작하고 먼저 등록합니다.
docker compose up -ddocker compose ps에서 컨테이너 6개가 모두 실행 중으로 표시되어야 합니다. http://your-ip:3080을 열고 등록을 누르십시오. 기본 사용자는 없습니다. 앞단에 HTTPS가 준비될 때까지 3080과 3000은 방화벽 뒤에 두고 SSH로 앱에 접속하십시오:ssh -N -L 3080:127.0.0.1:3080 root@your-server - 모델을 추가한 다음 도메인을 연결합니다.
OPENAI_API_KEY,ANTHROPIC_API_KEY,GOOGLE_KEY을 .env에 넣거나, user_provided로 두어 각 사용자가 자신의 키를 입력하게 하십시오. 로컬 모델은 librechat.yaml에 Ollama 엔드포인트를 추가하십시오. 컨테이너 내부에서 주소는 localhost가 아니라 host.docker.internal입니다. HTTPS를 쓰려면 A 레코드를 서버로 지정하고 앞단에 리버스 프록시를 두며, .env의DOMAIN_CLIENT와DOMAIN_SERVER를 공개 주소로 설정하십시오. 사용자 등록이 끝나면ALLOW_REGISTRATION를 false로 설정하십시오.
솔직하게
실제로 저희가 구매할 플랜
LibreChat은 최소 사양을 명시하지 않으며 컨테이너 6개를 시작합니다. 8 GB 머신을 구매하십시오.
LibreChat과 팀용
BD-8 · $12.90/월
$12.90의 4 vCPU, 8 GB, 100 GB: 공식 스택 전체를 실행하고도 MongoDB, Meilisearch, 벡터 데이터베이스가 커질 메모리가 남으며, 업로드용 디스크와 채팅이 멈추지 않고 문서를 임베딩할 CPU가 있습니다. 모델은 API 키 너머 다른 곳에 있으므로 이 머신에는 GPU가 필요하지 않습니다. 가장 저렴한 행에 없는 도시가 필요하다면 $75.90의 C4-8-160가 다른 곳에서 같은 구성을 제공합니다.
질문