本文へスキップ

ソリューション · ローカルモデル

Ollama向けVPS

Ollama はオープンモデルをローカル API で提供します。唯一の絶対条件は、モデルがメモリに収まることです。80億パラメータのモデルはダウンロードサイズが 4.9 GB、70B のモデルは 42.5 GB です。CPU では毎秒数トークンで応答します。これはプライベートなアシスタント、バッチ処理、埋め込みには十分ですが、チャット製品には不十分です。BD-8($12.90)は 8B モデルを、BD-64($84.90)は 70B モデルを動かせます。

必要なもの

ドキュメントに基づくソフトウェア、出典を明記したサイズ

ソフトウェアとセキュリティ方針は、各プロジェクト自身のドキュメントに基づいています。プロジェクトがハードウェアの数値を公開していない場合は、そのサイズが誰の基準によるものかを明記しています。

docs.ollama.com とレジストリより

  • インストール:curl -fsSL https://ollama.com/install.sh | sh。ollama ユーザーと systemd サービスを作成します。
  • 既定では 127.0.0.1:11434 で待ち受けます。OLLAMA_HOST=0.0.0.0 で外部に公開できますが、Ollama 自体には認証がないため、先に認証付きのプロキシを前段に置いてください。
  • モデルは /usr/share/ollama/.ollama/models に保存されます。レジストリ上のサイズ:llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB。
  • GPU は必須ではありません。GPU がなければモデルは CPU と RAM で低速に動作し、GPU があれば VRAM から高速に動作します。

サイズ(当社の目安:モデルが余裕をもって RAM に収まること)

用途別のサイズ選び
ワークロードvCPURAM
4B〜8B モデル(gemma3:4b 3.3 GB、llama3.1:8b 4.9 GB)アシスタント、要約、埋め込み。CPU では毎秒数トークンです。48 GB
12B〜14B モデル(gemma3:12b 8.1 GB、qwen3:14b 9.3 GB)応答の質は明らかに上がり、速度は明らかに落ちます。616 GB
27B〜32B モデル(gemma3:27b 17.4 GB、qwen3:32b 20.2 GB)バッチ処理には使えますが、ユーザーを待たせる用途には向きません。832 GB
70B モデル(llama3.3:70b 42.5 GB)収まります。低速です。対話的に使うなら、正直なところ GPU サーバーが答えです。1664 GB

適合するプラン

4 台のマシン、最新価格

動かせるモデルを決めるメモリの順に並べています。価格は本日時点の月額で、カタログから取得しています。

  • BD-8$12.90/月

    4 vCPU · 8 GB · 100 GB ディスク · 32 TB

    8 GB:8B モデル向け。4 vCPU、8 GB、ダウンロード用に 100 GB。llama3.1:8b、qwen3:8b、gemma3:4b が動作します。1行のインストーラーはご自身で貼り付けてください。

  • U6-16-120$47.90/月

    6 vCPU · 16 GB · 120 GB ディスク · Unmetered(計測なし)

    16 GB:14B モデル向け、トラフィック計測なし、イスタンブール。6 vCPU と 16 GB で qwen3:14b と gemma3:12b が動作します。トラフィック計測なしなので、モデルを気兼ねなく取得できます。

  • BD-64$84.90/月

    16 vCPU · 64 GB · 500 GB ディスク · 32 TB

    64 GB:70B まで、16 コア。このページで llama3.3:70b または qwen3:32b をメモリに収められる最も安いマシンです。大型モデルでは毎秒2トークン程度を見込んでください。

  • C4-8-160$75.90/月

    4 vCPU · 8 GB · 160 GB ディスク · 3 TB

    8 GB、Ollama インストール済みでお届け。プリセットは、起動スクリプトを実行できる提供元でサービスをインストールします。モデルライブラリ用に 160 GB のディスクを備えています。

「インストール済みでデプロイ」を押すと、当社の Ollama 起動スクリプト全文が起動スクリプト欄に入った状態で構成画面が開き、購入前に確認できます。スクリプトはサービスをインストールするだけで、モデルは取得しません。モデルはお客様が選びます。ほかの行では、インストールは1行を貼り付けるだけです。

インストール

4つのステップ

インストールし、収まるモデルを取得し、対話し、非公開に保つ。

  1. インストール。curl -fsSL https://ollama.com/install.sh | sh サービスは 127.0.0.1:11434 で起動し、再起動後も動作し続けます。
  2. このマシンに収まるモデルを取得。8 GB なら ollama pull llama3.1:8b、16 GB なら qwen3:14b、32 GB なら gemma3:27b または qwen3:32b、64 GB なら llama3.3:70b。
  3. 使う。ollama run llama3.1:8b、または API:curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'。ノート PC からは ssh -N -L 11434:127.0.0.1:11434 root@your-server。
  4. 公開するのはその後、認証を挟んでから。systemctl edit ollama.service で Environment="OLLAMA_HOST=0.0.0.0:11434" を設定すると外部から到達可能になります。Ollama には認証機能がないため、パスワードまたは API キーを要求するリバースプロキシを前段に置くことは必須です。

正直なところ

当社が実際に購入するなら

実際に動かすモデルに合わせてお選びください。また、購入前に CPU 推論の体感速度を把握しておいてください。

8B モデル向け

BD-8 · $12.90/月

4 vCPU と 8 GB で $12.90:llama3.1:8b や qwen3:8b を余裕をもって毎秒数トークンで動かせます。ご自身で対話するプライベートなアシスタント、夜間の要約、検索インデックス用の埋め込みに適しています。27B クラスの応答が必要なら、BD-64($84.90)でそれらも、低速ながら 70B モデルも動かせます。応答を人が待つのであれば、このページはここまでにして GPU ラインをご覧ください。

よくある質問

購入前によくある質問。

Ollama に必要な RAM はどのくらいですか?
モデルの大きさに少し余裕を加えた量が必要です。モデルファイルはメモリに読み込まれるためです。Ollama のレジストリでは llama3.1:8b が 4.9 GB、qwen3:14b が 9.3 GB、gemma3:27b が 17.4 GB、qwen3:32b が 20.2 GB、llama3.3:70b が 42.5 GB となっており、そのためティアは 8、16、32、64 GB です。オペレーティングシステムと Ollama 自体がさらに1〜2 GB を使います。収まらないモデルは読み込みに失敗するか、スワップが発生します。後者のほうが厄介です。
CPU の VPS ではどのくらいの速度ですか?
低速です。正直に申し上げます。4コアで 8B モデルなら毎秒数トークン、より大きなモデルではさらに遅くなります。無人で実行するジョブや1人でのチャットには問題ありませんが、ユーザーが応答を待つ製品には向きません。コアを増やすと少しは改善しますが、本当の制約はメモリ帯域幅です。対話的な速度が必要なら GPU が必要で、それは別のページでご案内しています。
GPU は必要ですか?
Ollama を動かすだけなら不要です。高速に動かすには必要です。このページの内容はすべて CPU 推論です。GPU ラインには L4 1枚からのカードがあり、CPU では遅々として進まない 7B モデルもそこでは即座に応答します。誰が応答を待つのかで判断してください。
起動プリセットは何をしますか?
Ollama 公式のインストーラーを実行します。これにより ollama ユーザーと、127.0.0.1:11434 にバインドされた systemd サービスが作成・有効化され、ファイアウォールでは SSH 以外何も開放しません。モデルは取得しません(その選択はご購入のマシンによるためです)。RAM ティアごとの pull コマンド、トンネル用コマンド、API 公開に関する注意を記した /root/OLLAMA-NEXT-STEPS.txt を残します。
ほかのマシンから利用できますか?
はい。systemctl edit ollama.service で OLLAMA_HOST=0.0.0.0:11434 を設定し、ポートを開放すれば利用できます。ただし、キーまたはパスワードを要求するリバースプロキシなしでは行わないでください。Ollama には独自の認証がなく、公開状態の Ollama はインターネットに GPU なしの計算資源を無償で差し出すようなものです。SSH トンネルや VPN 経由なら、これらはいずれも不要です。
モデルはどこに保存され、どのくらいの大きさになりますか?
既定では /usr/share/ollama/.ollama/models で、OLLAMA_MODELS で変更できます(ディレクトリの所有者は ollama ユーザーである必要があります)。8B、14B、32B を1つずつ揃えた控えめなライブラリでも約 35 GB になるため、このページのすべての行は 100 GB 以上としています。