余ったPCを何台つないでも、巨大なGPUが1枚できるわけではありません。NVIDIA PAIRの本当の役割は、複数のAIリクエストが1台のGPUの前に並ばないよう、独立したリクエストを実行可能なPCへ1件ずつ送ることです。
PAIRはGPUを結合せず、リクエストを分散します
PAIRは同じローカルネットワーク上のコンピューターを検出し、各ノードの推論エンジン・モデル・ワークロードを確認してからリクエストを転送するローカル推論ルーターです。現在はOllamaとLM Studioをサポートし、アプリケーションにはOllama互換またはOpenAI互換のエンドポイントを1つ提供します。
ここには最も重要な境界があります。PAIRはVRAMを結合したり、1つのモデルを複数のコンピューターに分割して配置したりしません。1つのリクエストは、選ばれた1台のノードで最初から最後まで処理されます。したがって、24GB GPUを2枚つないで48GB必要なモデルを実行するためのものではありません。その代わり、複数のエージェントやユーザーが同時に送る独立したリクエストの待ち行列を分散する用途に適しています。
| やりたいこと | PAIRで可能か | 理由 |
|---|---|---|
| 複数のサブエージェントのリクエストを同時に処理する | 適している | 独立したリクエストを別々の準備済みノードに配置する |
| 複数アプリからのローカル推論リクエストを分散する | 適している | Ollama・OpenAI互換のプロキシエンドポイントを提供する |
| 1つのリクエストの生成速度をGPU数に応じて上げる | 適していない | 進行中のリクエストを複数ノードへ分割しない |
| 複数GPUのVRAMを結合して大きなモデルを実行する | 適していない | VRAMプーリングとモデルシャーディングをサポートしない |
NVIDIAのリリースデモでは、Hermes Desktopの5つのサブエージェントがQwen 3.6 35B A3Bを使用しました。RTX SparkノートPC1台では平均18分、そのノートPCとDGX Spark・RTX 5090をまとめた3ノードでは平均8分48秒でした。ただしNVIDIAも、これは特定構成での非公式デモだと明記しています。並列性、モデル、ネットワーク、エンジン設定、ノードの状態によって結果は変わるため、一般的な2倍高速化の数値として受け取るべきではありません。
性能を決めるのはPCの台数より「同じモデルの複製」です
複数ノードにPAIRをインストールしただけでは、リクエストが自動的に均等に分散されるわけではありません。ノードがリクエストを受けるには、オンラインであり、互換エンジンが動作しており、要求された正確なモデルがそのノードに存在する必要があります。同じモデルタグを3ノード中1か所にしかダウンロードしていなければ、そのモデルのリクエストは結局1か所に集中します。
一方で、すべてのコンピューターに同一モデルだけを置く必要もありません。メモリの大きいワークステーションには大きなモデルを、ノートPCには小さなモデルを置き、名前で宛先を分けられます。ただし、特定モデルの同時処理量を増やしたいなら、そのモデルを担当するすべてのノードに同じモデルタグを用意する必要があります。
最初の実験では、似た仕様の2台が扱いやすいです
現在のスケジューラーは主に待機中のジョブと、緩やかに補正されたGPU使用率を見ています。GPUモデル、利用可能なメモリ、モデルがすでにメモリに読み込まれているか、リクエストがどれほど重いかは判断しません。性能差の大きいPCをいきなり混ぜるより、似た2台と小さな共通モデルでまずルーティングを確認したほうが、原因を特定しやすくなります。
サポート範囲も、PAIRと推論エンジンを分けて見る必要があります。PAIR自体はWindows 11・Linux・macOSのx64とarm64で動作し、OSが異なるノードも一緒にまとめられます。NVIDIAが紹介する検証済みハードウェアには、GeForce RTX 20シリーズ以降、Turing以降のRTX PRO、DGX Spark、Apple M4以降のシステムが含まれます。ただし、実際にモデルを実行できるかどうかは、OllamaまたはLM StudioのOS・GPU・ドライバー対応と、そのモデルを収められるメモリに依存します。
「ローカル」でも信頼できるネットワークが必要です
ノードはmDNSで互いを見つけ、自動検出が機能しない場合はIPアドレスで追加できます。招待するPCに表示された6桁のPINを相手PCに入力すると、証明書の信頼関係が作られ、その後の主要ノード間通信には相互TLSが使われます。
だからといって、公共Wi-Fiで安全に使えるという意味ではありません。6桁のPINは長期認証情報ではなく、初回接続のための短いコードです。NVIDIAのセキュリティ文書では、一部の検出・ノード情報トラフィックが平文になる可能性があり、同じサブネット上のほかのデバイスがホスト名・ハードウェア情報・使用率を読めると説明されています。信頼できる家庭または個人オフィスのネットワークでのみペアリングし、ルーターのポートフォワーディングや認証なしの公開リバースプロキシでPAIRエンドポイントを公開しないでください。
ローカル推論と完全なオフラインは別物です
PAIRの推論経路はローカルネットワーク内にとどまるよう設計されていますが、モデルのダウンロードにはインターネットが必要です。接続したアプリ、モデルカタログ、更新機能、または別途設定したエンジンが外部サービスに接続する場合もあります。機密資料を扱うなら、PAIRだけでなくクライアントアプリとモデル提供経路も併せて確認してください。
2台から始めるPAIR設定ワークフロー
対応状況を確認し、各PCにインストールします
NVIDIA PAIRの配布ページから、Windows用実行ファイル、Debian系Linux用の.deb、macOS用の.dmgをダウンロードしてください。Linuxではダウンロードフォルダーからsudo apt install./NVPAIR-Setup-*.debでインストールできます。RPM系ディストリビューションは現在ソースビルドが必要です。インストール後、各コンピューターでPAIRを起動し、Overviewにローカルノードが表示されるまで待ちます。
OllamaまたはLM Studioを起動します
初回起動ウィンドウでエンジンをインストールするか、Overview → ノードを選択 → Engine settingsへ進んでください。既存のOllamaまたはLM Studioが起動中なら、PAIRがその既存インストールを採用できる場合があります。新規にインストールした場合は、状態が実行中に変わったことを確認してください。PAIRはルーターにすぎずモデルを直接実行しないため、各ワーカーノードにエンジンが必要です。
2台目のPCを6桁のPINで接続します
2台のPCを同じ信頼できるローカルネットワークに置いてください。1台目のPCで右上のAdd nodeを押すか、Settings → Cluster → Available nodesを開きます。相手PCを選択し、1台目のPCに表示された6桁のPINを相手PCの招待ウィンドウに入力してください。自動検出が空ならIPアドレスで追加し、ファイアウォールでPAIRが許可されているか確認します。完了後は、Connected nodesに2台のデバイスが表示されるはずです。
同じテストモデルを2ノードに用意します
各ノードのEngine settings → Add modelで、同一のモデルタグをダウンロードしてください。最初は、両方のコンピューターのメモリに余裕をもって収まる小さなモデルがおすすめです。エンジンが明示的なロードを求める場合は、ダウンロード後にLoadまで実行してください。モデル名が1文字でも違うと、同じリクエストの候補ノードにならない場合があります。
エンドポイントを接続し、分散を確認します
Endpoints → API endpointsで現在のアドレスをコピーし、クライアントのBase URLに入力してください。デフォルトでは、Ollamaプロキシはhttp://127.0.0.1:11434でOllama APIとOpenAI互換パスを提供し、LM Studioプロキシはhttp://127.0.0.1:1234でOpenAI互換パスを提供します。ポートを変更した場合は、画面に表示されたアドレスを使う必要があります。独立したリクエストを複数同時に送った後、Jobsで各ジョブのRan onを確認してください。異なるノードが記録されていれば、実際に分散されています。
検証時は、単一リクエストの毎秒トークン数だけを見ないでください。同じプロンプト群を1ノードと複数ノードでそれぞれ実行し、合計完了時間、待機時間、失敗数、出力品質を比較する必要があります。ノートPCのスリープやゲームの実行など、ノード状態が変わる状況も含めてみてください。PAIRの有用性は最高速度よりも、複数リクエストが重なったときに待ち行列をどれだけ減らせるかに現れます。
さらに深く知りたい場合
Personal AI Router for Local Inference | NVIDIA PAIR — 対応プラットフォーム、検証済み構成、公式ダウンロードを確認できます。 nvidia.com
NVIDIA PAIR Virtual Inference Router Expands Available Compute on Your Local Network — ルーティング構造、マルチエージェントデモ、適したワークロードの境界を説明しています。 developer.nvidia.com
Getting Started | NVIDIA Personal AI Router — インストールからPINペアリング、モデル準備、API接続までを実際のメニューに沿って進められます。 docs.nvidia.com
Known issues — 現在のスケジューラーが考慮しない要素とプラットフォーム別の制限を、導入前に確認できます。 docs.nvidia.com
Security: NVIDIA/Personal-AI-Router — PIN、相互TLS、ローカルエンドポイント、LANの信頼境界を具体的に説明しています。 github.com
