本文へスキップ

ソリューション · ドキュメントチャット

AnythingLLM 向け VPS

AnythingLLM は、お手持ちのドキュメントを対象にしたプライベートなチャットワークスペースです。ファイルをアップロードすると内蔵のベクトルデータベースに埋め込まれ、API キーで利用するホスト型モデル、または Ollama 経由のローカルモデルを通じてそのドキュメントとチャットできます。公式ドキュメントが求めるのは RAM 2 GB、AVX2 対応の 2 コア CPU、ディスク 5 GB で、AVX2 が唯一の必須要件とされています。この最低条件を満たす最安のマシンは GL2-4(月額 $11.90)です。私たちが買うなら BD-8($12.90)を選びます。埋め込み処理がこのマシンの CPU で実行されるためです。

必要なもの

ドキュメントに基づくソフトウェア、出典を明記したサイズ

ソフトウェアとセキュリティ方針は、各プロジェクト自身のドキュメントに基づいています。プロジェクトがハードウェアの数値を公開していない場合は、そのサイズが誰の基準によるものかを明記しています。

docs.anythingllm.com とプロジェクトの Docker ガイドより

  • 「RAM 2GB、AVX2 対応の 2 コア CPU、ストレージ 5GB」:ドキュメントの最低要件です。クラウドマシンについて、Docker ガイドでは RAM 2 GB 以上、ディスク 10 GB 以上としています。
  • AVX2 は「唯一の必須要件」です。デフォルトのベクトルデータベースは 2013 年以降の CPU 向けに作られており、AVX2 がないとサーバーは起動時に停止します。マシン内で lscpu | grep -o avx2 を実行して確認してください。何も表示されない場合は、VECTOR_DB を別のベクトルデータベースに設定してください。
  • インストール:/app/server/storage にストレージディレクトリをマウントして docker run -d -p 3001:3001 --cap-add SYS_ADMIN … mintplexlabs/anythingllm を実行します。アプリはポート 3001 で動作します。
  • チャットにはモデルが必要です。ホスト型プロバイダーの API キー、または同じマシンか別マシンの Ollama を用意してください。埋め込み処理はデフォルトでこのマシンの CPU で実行されます。権限付きのマルチユーザーモードは Docker 版の機能です。GPU は不要です。

サイズ(プロジェクトの最低要件、続いて私たちの目安)

用途別のサイズ選び
ワークロードvCPURAM
ドキュメント、チャット、ホスト型モデル(公式の最低要件)AVX2 対応の 2 コア。ディスクは 5 GB、クラウドマシンでは 10 GB。イメージだけで数ギガバイトを使います。22 GB
本格的なドキュメントライブラリ、内蔵の CPU 埋め込み、少人数のユーザー私たちの目安。埋め込み処理はこの CPU で実行されるため、2 コアでは大量のアップロードにかなり時間がかかります。48 GB
完全ローカル構成なら Ollama を同居私たちの目安。これはモデルのホスティングの問題で、AnythingLLM の問題ではありません。Ollama のページでサイズを選んでください。832 GB

適合するプラン

5 台のマシン、最新価格

条件を満たす最安のマシンから順に並べています。価格は本日時点の月額で、カタログから取得しています。どれを購入した場合も、最初の 1 分で AVX2 の確認を行ってください。

  • GL2-4$11.90/月

    2 vCPU · 4 GB · 40 GB ディスク · Unmetered(計測なし)

    最低条件を満たす最安構成、Unmetered(計測なし)。2 vCPU / 4 GB / 40 GB。ドキュメントの要求の 2 倍のメモリと、アップロード用にトラフィックはカウントされない Unmetered です。何よりも先に AVX2 の確認を行ってください。

  • BD-8$12.90/月

    4 vCPU · 8 GB · 100 GB ディスク · 32 TB

    私たちが買う構成:埋め込み処理に 4 コア。4 vCPU、8 GB、100 GB、転送量 32 TB で、1 ドル高いだけです。ライブラリの埋め込みを 2 コアではなく 4 コアで行う差は体感できます。

  • BD-24$31.90/月

    8 vCPU · 24 GB · 300 GB ディスク · 32 TB

    多数のユーザーと、横で動かす Ollama 向けの 8 vCPU / 24 GB。同じマシンの Ollama で 8B モデルを(低速ながら)動かせ、チームのドキュメントも置ける余裕。

  • C2-4-80$37.90/月

    2 vCPU · 4 GB · 80 GB ディスク · 3 TB

    最低条件を満たす構成を数十都市で。2 vCPU / 4 GB / 80 GB。都市で選ぶプランです。ホスト型モデルと、控えめな規模のライブラリ向け。

  • C4-8-160$75.90/月

    4 vCPU · 8 GB · 160 GB ディスク · 3 TB

    4 vCPU / 8 GB / 160 GB、数十の都市で提供。大規模なライブラリとそのベクトルを収めるディスクを備えた、余裕のあるサイズ。

AnythingLLM 用のスタートアッププリセットはまだありません。インストールは以下の 5 ステップを手動で入力して行います。ステップ 3 はプロジェクトのコマンドとフラグが 1 つだけ異なり(ポートをループバックにバインドするもの)、その旨を明記しています。

インストール

プロジェクトの Docker ガイドに基づく 5 ステップ

CPU を確認し、Docker をインストールし、ループバックでコンテナを起動し、SSH 経由でセットアップしてから、ドメインを割り当てます。

  1. まず AVX2 を確認します。lscpu | grep -o avx2 avx2 と表示される必要があります。ドキュメントには、これが唯一のハードウェア要件でありエミュレーションできないと明記されています。AVX2 がないマシンでは、初回起動前に VECTOR_DB を外部のベクトルデータベースに設定する必要があります。
  2. Docker。curl -fsSL https://get.docker.com | sh
  3. ループバックで起動します。export STORAGE_LOCATION=/opt/anythingllm && mkdir -p $STORAGE_LOCATION && touch $STORAGE_LOCATION/.env docker run -d --name anythingllm --restart unless-stopped -p 127.0.0.1:3001:3001 --cap-add SYS_ADMIN --add-host=host.docker.internal:host-gateway -v $STORAGE_LOCATION:/app/server/storage -v $STORAGE_LOCATION/.env:/app/server/.env -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm プロジェクトのコマンドに 1 か所だけ変更を加えています。-p 3001:3001 の代わりに -p 127.0.0.1:3001:3001 を使い、パスワードを設定する前にチャットがインターネットに公開されないようにしています。ストレージディレクトリにはデータベース、ベクトル、ドキュメントが保存されるので、バックアップしてください。
  4. SSH 経由で設定します。ssh -N -L 3001:127.0.0.1:3001 root@your-server を実行し、http://127.0.0.1:3001 を開きます。LLM を選びます。ホスト型プロバイダーとその API キー、またはこのマシンで動作している場合は http://host.docker.internal:11434 の Ollama です。他の人がアクセスできるようになる前に、設定でマルチユーザーモードを有効にするか、インスタンスのパスワードを設定してください。
  5. ドメインを割り当てます。A レコードをサーバーに向け、Caddy をインストールし、ドメインの下に reverse_proxy 127.0.0.1:3001 とする Caddyfile のブロックを 1 つ書けば、証明書が取得され 3001 の前に HTTPS が置かれます。ファイアウォールでは 80 と 443 だけを開けてください。

正直なところ

当社が実際に購入するなら

最低条件は 2 コアと 2 GB で、最安の行がそれを満たします。それでも私たちならあと 1 ドル足します。

実際に使うドキュメントライブラリ向け

BD-8 · $12.90/月

4 vCPU、8 GB、100 GB で $12.90、対して GL2-4 は $11.90。月 1 ドルの差で、アップロードのたびにこのマシンで動く埋め込み処理用のコアが 2 つ増え、ドキュメントとそのベクトル用に 100 GB が手に入ります。モデルは API キーの先、別の場所にあるので GPU は不要です。Ollama を同居させたい場合は Ollama のページを読み、AnythingLLM ではなくモデルに合わせて購入してください。どの構成でも、ファイルを 1 つでもアップロードする前に AVX2 の確認を行ってください。

よくある質問

購入前によくある質問。

AnythingLLM のシステム要件は?
公式ドキュメントでは最低要件を RAM 2 GB、AVX2 対応の 2 コア CPU、ストレージ 5 GB としており、ドキュメントをいくつか保存し、チャットし、各機能を使うには十分だとしています。プロジェクトの Docker ガイドではさらに、クラウドマシンでは RAM 2 GB 以上、ディスク 10 GB 以上を目安にするよう述べています。ディスク使用量はドキュメント、ベクトル、ローカルモデルに応じて増えるためです。また、このアプリは外部サービスのラッパーであるため、モデルと埋め込み処理が別の場所にあれば軽く、同じマシンで動かせば重くなるとも記載されています。
AVX2 要件とは何ですか?私の VPS は対応していますか?
デフォルトのベクトルデータベースである LanceDB は、AVX2 命令セットに対応した CPU(Intel Haswell、2013 年以降)向けにコンパイルされています。AVX2 がないと、データベースを読み込んだ瞬間にサーバープロセスが強制終了されるため、ドキュメントではこれを唯一の必須ハードウェア要件としています。注意すべきは仮想マシンです。ハイパーバイザーは、ホストが最新であっても AVX2 を隠す汎用 CPU モデルを提示することがあります。そのためドキュメントでは、ホストではなくゲスト内で lscpu | grep -o avx2 を実行して確認するよう指示しています。カタログから確認できない CPU フラグを私たちは約束できません。最初の 1 分でこの 1 行を実行してください。何も表示されない場合は、VECTOR_DB をサポートされている他のベクトルデータベースのいずれかに設定してください。それらは別サービスとして動作します。
GPU は必要ですか?
いいえ。AnythingLLM 自体が実行するのは、Web アプリ、ドキュメント処理パイプライン、そしてデフォルトでは CPU のみで動く埋め込み処理です。チャットの回答は接続した LLM から返されます。API キーで利用するホスト型プロバイダー(ドキュメントによればオーバーヘッドはほぼゼロ)か、Ollama 経由のローカルモデルです。ドキュメント自身も、AnythingLLM のマシンに GPU がない場合は、GPU を搭載した別のマシンでローカルモデルをホストするよう勧めています。それは Ollama のページと GPU ラインの話で、このページの対象ではありません。
インストール後、インターネットに公開されていますか?
プロジェクトのコマンドはポート 3001 をすべてのインターフェースで公開し、新しいインスタンスにはパスワードを設定するまでパスワードがありません。このページのインストール手順では 3001 を 127.0.0.1 にバインドするため、ドメインを追加するまでは SSH トンネルが唯一のアクセス手段です。その後、HTTPS を前段に置く前に、設定画面でインスタンスのパスワードを設定するか、マルチユーザーモード(README では Docker 版の機能とされています)を有効にしてください。
データはどこに保存されますか?
/app/server/storage にマウントするストレージディレクトリに保存されます。SQLite データベース、LanceDB のベクトル、アップロードしたドキュメント、ローカルにダウンロードしたモデルがここに入ります。Docker ガイドがこれをホスト上にマウントするよう指示しているのは、何も失わずに新しいイメージを取得できるようにするためです。このディレクトリと、その隣にある .env をバックアップしてください。この 2 つでインスタンスのすべてです。
同じマシンの Ollama を使えますか?
はい。コンテナ内からはホストが http://host.docker.internal:11434 になります。Linux では run コマンドに --add-host=host.docker.internal:host-gateway が必要で、上記のステップには含めてあります。その場合はモデルに合わせてマシンを選んでください。8B モデルは AnythingLLM とは別に 8 GB を必要とし、CPU では毎秒数トークンで応答します。このページで余裕を持って動かせる最小の構成は 24 GB の行です。