ソリューション · ローカルモデル
Ollama向けVPS
Ollama はオープンモデルをローカル API で提供します。唯一の絶対条件は、モデルがメモリに収まることです。80億パラメータのモデルはダウンロードサイズが 4.9 GB、70B のモデルは 42.5 GB です。CPU では毎秒数トークンで応答します。これはプライベートなアシスタント、バッチ処理、埋め込みには十分ですが、チャット製品には不十分です。BD-8($12.90)は 8B モデルを、BD-64($84.90)は 70B モデルを動かせます。
必要なもの
ドキュメントに基づくソフトウェア、出典を明記したサイズ
ソフトウェアとセキュリティ方針は、各プロジェクト自身のドキュメントに基づいています。プロジェクトがハードウェアの数値を公開していない場合は、そのサイズが誰の基準によるものかを明記しています。
docs.ollama.com とレジストリより
- インストール:
curl -fsSL https://ollama.com/install.sh | sh。ollamaユーザーと systemd サービスを作成します。 - 既定では
127.0.0.1:11434で待ち受けます。OLLAMA_HOST=0.0.0.0で外部に公開できますが、Ollama 自体には認証がないため、先に認証付きのプロキシを前段に置いてください。 - モデルは
/usr/share/ollama/.ollama/modelsに保存されます。レジストリ上のサイズ:llama3.1:8b 4.9 GB · qwen3:14b 9.3 GB · gemma3:27b 17.4 GB · qwen3:32b 20.2 GB · llama3.3:70b 42.5 GB。 - GPU は必須ではありません。GPU がなければモデルは CPU と RAM で低速に動作し、GPU があれば VRAM から高速に動作します。
サイズ(当社の目安:モデルが余裕をもって RAM に収まること)
| ワークロード | vCPU | RAM |
|---|---|---|
| 4B〜8B モデル(gemma3:4b 3.3 GB、llama3.1:8b 4.9 GB)アシスタント、要約、埋め込み。CPU では毎秒数トークンです。 | 4 | 8 GB |
| 12B〜14B モデル(gemma3:12b 8.1 GB、qwen3:14b 9.3 GB)応答の質は明らかに上がり、速度は明らかに落ちます。 | 6 | 16 GB |
| 27B〜32B モデル(gemma3:27b 17.4 GB、qwen3:32b 20.2 GB)バッチ処理には使えますが、ユーザーを待たせる用途には向きません。 | 8 | 32 GB |
| 70B モデル(llama3.3:70b 42.5 GB)収まります。低速です。対話的に使うなら、正直なところ GPU サーバーが答えです。 | 16 | 64 GB |
適合するプラン
4 台のマシン、最新価格
動かせるモデルを決めるメモリの順に並べています。価格は本日時点の月額で、カタログから取得しています。
- BD-8$12.90/月
4 vCPU · 8 GB · 100 GB ディスク · 32 TB
8 GB:8B モデル向け。4 vCPU、8 GB、ダウンロード用に 100 GB。llama3.1:8b、qwen3:8b、gemma3:4b が動作します。1行のインストーラーはご自身で貼り付けてください。
- U6-16-120$47.90/月
6 vCPU · 16 GB · 120 GB ディスク · Unmetered(計測なし)
16 GB:14B モデル向け、トラフィック計測なし、イスタンブール。6 vCPU と 16 GB で qwen3:14b と gemma3:12b が動作します。トラフィック計測なしなので、モデルを気兼ねなく取得できます。
- BD-64$84.90/月
16 vCPU · 64 GB · 500 GB ディスク · 32 TB
64 GB:70B まで、16 コア。このページで llama3.3:70b または qwen3:32b をメモリに収められる最も安いマシンです。大型モデルでは毎秒2トークン程度を見込んでください。
- C4-8-160$75.90/月
4 vCPU · 8 GB · 160 GB ディスク · 3 TB
8 GB、Ollama インストール済みでお届け。プリセットは、起動スクリプトを実行できる提供元でサービスをインストールします。モデルライブラリ用に 160 GB のディスクを備えています。
「インストール済みでデプロイ」を押すと、当社の Ollama 起動スクリプト全文が起動スクリプト欄に入った状態で構成画面が開き、購入前に確認できます。スクリプトはサービスをインストールするだけで、モデルは取得しません。モデルはお客様が選びます。ほかの行では、インストールは1行を貼り付けるだけです。
インストール
4つのステップ
インストールし、収まるモデルを取得し、対話し、非公開に保つ。
- インストール。
curl -fsSL https://ollama.com/install.sh | shサービスは 127.0.0.1:11434 で起動し、再起動後も動作し続けます。 - このマシンに収まるモデルを取得。8 GB なら
ollama pull llama3.1:8b、16 GB ならqwen3:14b、32 GB ならgemma3:27bまたはqwen3:32b、64 GB ならllama3.3:70b。 - 使う。
ollama run llama3.1:8b、または API:curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.1:8b","prompt":"hello"}'。ノート PC からはssh -N -L 11434:127.0.0.1:11434 root@your-server。 - 公開するのはその後、認証を挟んでから。
systemctl edit ollama.serviceでEnvironment="OLLAMA_HOST=0.0.0.0:11434"を設定すると外部から到達可能になります。Ollama には認証機能がないため、パスワードまたは API キーを要求するリバースプロキシを前段に置くことは必須です。
正直なところ
当社が実際に購入するなら
実際に動かすモデルに合わせてお選びください。また、購入前に CPU 推論の体感速度を把握しておいてください。
8B モデル向け
BD-8 · $12.90/月
4 vCPU と 8 GB で $12.90:llama3.1:8b や qwen3:8b を余裕をもって毎秒数トークンで動かせます。ご自身で対話するプライベートなアシスタント、夜間の要約、検索インデックス用の埋め込みに適しています。27B クラスの応答が必要なら、BD-64($84.90)でそれらも、低速ながら 70B モデルも動かせます。応答を人が待つのであれば、このページはここまでにして GPU ラインをご覧ください。
よくある質問