본문으로 건너뛰기

솔루션 · 로컬 모델

Ollama용 VPS

Ollama는 로컬 API로 오픈 모델을 제공하며, 유일한 절대 조건은 모델이 메모리에 맞아야 한다는 것입니다. 80억 파라미터 모델은 4.9 GB, 70B 모델은 42.5 GB를 다운로드합니다. CPU에서는 초당 몇 토큰 속도로 응답하므로 개인 어시스턴트, 배치 작업, 임베딩에는 충분하지만 채팅 제품에는 부족합니다. BD-8, $12.90는 8B 모델을, BD-64, $84.90는 70B 모델을 실행합니다.

BD-8 배포Ollama가 설치된 C4-8-160 배포

필요한 것

문서 기반 소프트웨어, 출처가 표시된 크기

소프트웨어와 보안 구성은 프로젝트 자체 문서를 따릅니다. 프로젝트가 하드웨어 수치를 공개하지 않는 경우, 각 크기에 누구의 기준인지 표시합니다.

docs.ollama.com 및 레지스트리 기준

  • 설치: curl -fsSL https://ollama.com/install.sh | sh. ollama 사용자와 systemd 서비스를 생성합니다.
  • 기본적으로 127.0.0.1:11434에서 수신합니다. OLLAMA_HOST=0.0.0.0로 외부에 노출할 수 있지만 Ollama 자체에는 인증 기능이 없으므로, 먼저 인증을 갖춘 프록시를 앞에 두십시오.
  • 모델은 /usr/share/ollama/.ollama/models에 저장됩니다. 레지스트리 기준 크기: llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB.
  • GPU는 선택 사항입니다. GPU가 없으면 모델이 CPU와 RAM에서 느리게 실행되고, 있으면 VRAM에서 빠르게 실행됩니다.

크기(저희 기준: 모델이 여유를 두고 RAM에 맞아야 함)

워크로드별 크기 선택
워크로드vCPURAM
4B–8B 모델(gemma3:4b 3.3 GB, llama3.1:8b 4.9 GB)어시스턴트, 요약, 임베딩. CPU에서 초당 몇 토큰.48 GB
12B–14B 모델(gemma3:12b 8.1 GB, qwen3:14b 9.3 GB)답변이 눈에 띄게 좋아지고, 눈에 띄게 느려집니다.616 GB
27B–32B 모델(gemma3:27b 17.4 GB, qwen3:32b 20.2 GB)배치 작업에는 쓸 만하지만, 기다리는 사용자에게는 적합하지 않습니다.832 GB
70B 모델(llama3.3:70b 42.5 GB)메모리에는 맞습니다. 느립니다. 대화형으로 사용하려면 솔직히 GPU 서버가 답입니다.1664 GB

적합한 플랜

머신 4개, 실시간 가격

모델을 결정하는 메모리 순으로 정렬했습니다. 가격은 카탈로그에서 읽어 온 오늘 기준 월 요금입니다.

  • BD-8$12.90/월

    4 vCPU · 8 GB · 100 GB 디스크 · 32 TB

    8 GB: 8B 모델. 4 vCPU, 8 GB, 다운로드용 100 GB. llama3.1:8b, qwen3:8b, gemma3:4b를 실행합니다. 한 줄 설치 명령은 직접 붙여넣으십시오.

    배포
  • U6-16-120$47.90/월

    6 vCPU · 16 GB · 120 GB 디스크 · Unmetered

    16 GB: 14B 모델, Unmetered, 이스탄불. 6 vCPU와 16 GB로 qwen3:14b와 gemma3:12b를 실행합니다. 비계량 트래픽이라 모델을 부담 없이 받을 수 있습니다.

    배포
  • BD-64$84.90/월

    16 vCPU · 64 GB · 500 GB 디스크 · 32 TB

    64 GB: 최대 70B, 16코어. 이 페이지에서 llama3.3:70b 또는 qwen3:32b를 메모리에 올릴 수 있는 가장 저렴한 머신입니다. 대형 모델에서는 초당 두어 토큰 정도를 예상하십시오.

    배포
  • C4-8-160$75.90/월

    4 vCPU · 8 GB · 160 GB 디스크 · 3 TB

    8 GB, Ollama가 설치된 상태로 제공. 프리셋은 시작 스크립트를 실행하는 공급업체에 서비스를 설치합니다. 모델 라이브러리용 160 GB 디스크.

    설치된 상태로 배포

“설치 상태로 배포”를 누르면 구매 전에 저희 Ollama 시작 스크립트 전체가 시작 스크립트 상자에 들어간 구성 화면이 열립니다. 서비스를 설치할 뿐 모델은 받지 않으며, 모델은 직접 선택합니다. 다른 행에서는 한 줄을 붙여 넣으면 설치됩니다.

설치

4단계

설치하고, 메모리에 맞는 모델을 받고, 대화하고, 비공개로 유지합니다.

  1. 설치합니다. curl -fsSL https://ollama.com/install.sh | sh 서비스는 127.0.0.1:11434에서 시작되며 재부팅 후에도 유지됩니다.
  2. 이 머신에 맞는 모델을 받습니다. 8 GB에서는 ollama pull llama3.1:8b, 16 GB에서는 qwen3:14b, 32 GB에서는 gemma3:27b 또는 qwen3:32b, 64 GB에서는 llama3.3:70b.
  3. 사용합니다. ollama run llama3.1:8b 또는 API: curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'. 노트북에서는 ssh -N -L 11434:127.0.0.1:11434 root@your-server.
  4. 그다음에야 인증을 두고 외부에 공개합니다. Environment="OLLAMA_HOST=0.0.0.0:11434"와 함께 systemctl edit ollama.service하면 접근이 가능해집니다. 앞단에 비밀번호나 API 키가 있는 리버스 프록시를 두는 것은 선택 사항이 아닙니다. Ollama에는 인증 기능이 없기 때문입니다.

솔직하게

실제로 저희가 구매할 플랜

실제로 실행할 모델에 맞춰 구매하시고, 구매 전에 CPU 추론의 체감 속도를 알아 두십시오.

8B 모델용

BD-8 · $12.90/월

4 vCPU와 8 GB, $12.90로 llama3.1:8b 또는 qwen3:8b를 여유 있게 초당 몇 토큰 속도로 실행합니다. 직접 대화하는 개인 어시스턴트, 야간 요약, 검색 인덱스용 임베딩에 적합합니다. 27B급 답변을 원하시면 BD-64, $84.90가 이를 수용하며 70B 모델도 느리게나마 실행합니다. 사람들이 답을 기다려야 한다면 이 페이지는 그만 읽으시고 GPU 라인을 살펴보십시오.

BD-8 배포대형 모델용 BD-64

질문

구매 전에 자주 묻는 질문.

Ollama에는 RAM이 얼마나 필요한가요?
모델 크기에 약간의 여유를 더한 만큼이 필요합니다. 모델 파일이 메모리에 로드되기 때문입니다. Ollama 레지스트리 기준으로 llama3.1:8b는 4.9 GB, qwen3:14b는 9.3 GB, gemma3:27b는 17.4 GB, qwen3:32b는 20.2 GB, llama3.3:70b는 42.5 GB이므로 등급은 8, 16, 32, 64 GB입니다. 운영 체제와 Ollama 자체에도 1~2기가바이트가 더 필요합니다. 메모리에 맞지 않는 모델은 로드에 실패하거나 스왑을 사용하며, 후자가 더 나쁩니다.
CPU VPS에서는 얼마나 빠른가요?
느립니다. 솔직히 말씀드리면 4코어에서 8B 모델이 초당 몇 토큰, 더 큰 모델은 그보다 적습니다. 무인으로 돌아가는 작업이나 혼자 대화하는 용도에는 괜찮지만, 사용자가 기다리는 제품에는 적합하지 않습니다. 코어를 늘리면 조금 도움이 되지만, 실제 한계는 메모리 대역폭입니다. 대화형 속도가 필요하다면 GPU가 필요하며, 이는 다른 페이지에서 다룹니다.
GPU가 필요합니까?
Ollama를 실행하는 데는 필요 없습니다. 빠르게 실행하려면 필요합니다. 이 페이지의 모든 내용은 CPU 추론입니다. GPU 라인에는 L4 한 장부터 시작하는 카드가 있으며, CPU에서 느리게 기어가던 7B 모델도 그곳에서는 즉시 응답합니다. 누가 답을 기다리는지를 기준으로 결정하십시오.
시작 프리셋은 무엇을 합니까?
Ollama 공식 설치 프로그램을 실행하여 ollama 사용자와 127.0.0.1:11434에 바인딩된 systemd 서비스를 생성하고 활성화하며, 방화벽에서는 SSH 외에 아무것도 열지 않습니다. 모델은 받지 않습니다(구매하신 머신에 따라 선택이 달라지기 때문입니다). 대신 RAM 등급별 pull 명령, 터널 명령, API 노출에 대한 경고를 담은 /root/OLLAMA-NEXT-STEPS.txt를 남겨 둡니다.
다른 머신에서도 사용할 수 있나요?
예. systemctl edit ollama.service로 OLLAMA_HOST=0.0.0.0:11434를 설정하고 포트를 열면 됩니다. 키나 비밀번호를 요구하는 리버스 프록시 없이는 그렇게 하지 마십시오. Ollama에는 자체 인증이 없으며, 열려 있는 Ollama는 인터넷에 GPU 없는 컴퓨팅을 무료로 기부하는 셈입니다. SSH 터널이나 VPN을 사용하면 이런 조치가 전혀 필요 없습니다.
모델은 어디에 저장되며, 얼마나 커지나요?
기본값은 /usr/share/ollama/.ollama/models이며 OLLAMA_MODELS로 변경할 수 있습니다(ollama 사용자가 디렉터리를 소유해야 함). 8B, 14B, 32B 하나씩의 소박한 라이브러리가 약 35 GB이며, 그래서 이 페이지의 모든 항목이 100 GB 이상입니다.

더 읽어 보기

관련 항목