MacとDGX Sparkで作るLLMハイブリッド環境構築ガイド
CHATGPT / AIChatGPTなどの生成AIを活用して運営・記事制作・更新を行っています。制作方針
MacとDGX Sparkを組み合わせ、SSH、vLLM、Ollama、RAGなどの役割分担でLLMハイブリッド環境を作るためのガイド。
先に結論
実用的な構成は、Macを開発・操作端末、DGX SparkをLinux/CUDAの推論サーバーとして分ける形です。MacからSSHまたはNVIDIA Syncで接続し、DGX Spark上のvLLMなどが公開するAPIをローカルへトンネルします。
MacのMetalとDGX SparkのCUDAを一つの共有GPUや共有メモリとして束ねる構成ではありません。NVIDIAの公式資料で案内されるマルチノード構成はDGX Spark同士が対象です。
確認日: 2026年8月12日（Asia/Tokyo）
確認対象: DGX Spark製品仕様（更新日表示なし、2026-08-12取得）、DGX OS 7.5.0、NVIDIA Sync User Guide（2026-07-31更新）、NVIDIA「Serve LLMs with vLLM」Playbook（2026-08-03更新）
調査方法: 公式仕様・公式ドキュメント・公式Playbookによる机上調査。実機での接続、推論速度、モデル収容可否は未測定です。
未検証範囲: Mac/DGX Sparkの個別機種差、家庭内LAN・Tailscaleの実効速度、各モデルの品質・メモリ使用量、長時間運転。
役割分担を先に決める
| 要素 | Mac | DGX Spark |
|---|---|---|
| 開発 | エディタ、ブラウザ、APIクライアント | コンテナ、CUDAライブラリ、推論エンジン |
| LLM | 小型モデルの確認は可能 | 本番候補モデルのロードと推論 |
| RAG | 文書整理、UI、検索要求の組み立て | 必要に応じて埋め込み・再ランキング・生成 |
| 接続 | NVIDIA Sync、SSH、HTTPSクライアント | SSHサーバー、ローカルAPI |
| データ | 作業中ファイル | モデル重み、キャッシュ、推論ログ |
この分離なら、Mac側のアプリを変えても推論基盤を保ちやすく、DGX Spark側のコンテナやモデルを変えてもクライアントの接続先を維持できます。RAGの各処理をどちらへ置くかは固定せず、データの機密性、転送量、モデルの収容可否で決めます。
DGX Sparkの公式仕様を読み直す
NVIDIAの製品仕様では、DGX SparkはGrace Blackwell、128GB LPDDR5xコヒーレント統合メモリ、273GB/sのメモリ帯域、4TB NVMeを備えます。AI性能は「疎性を利用した理論値で最大1 PFLOP FP4」です。FP16の実測値へ読み替えたり、アプリの生成速度を保証する数字として扱ったりはできません。
ネットワークは10GbEのRJ-45と200GbpsのConnectX-7 NICが明記されています。ConnectX-7はDGX Spark同士のクラスターデータ面に使うもので、Macとの通常接続はLAN上のSSH/APIを基本に考えます。
DGX Spark Release Notesの2026年7月版では、Founders Editionの現行構成としてDGX OS 7.5.0、GPU Driver 580.159.03、CUDA Toolkit 13.0.2が掲載されています。パートナー製GB10機は同時に更新されない場合があるため、実機ではRelease Notesではなく端末上の版も確認してください。
Macから安全に接続する
NVIDIA SyncはMac、Windows、Ubuntuに対応し、SSH接続、ポート転送、Tailscale接続、アプリ起動を管理します。同一LANならホスト名またはIPアドレスで直接接続し、既存のSSH aliasも取り込めます。
手動でトンネルする場合の基本形は次のとおりです。<user>と<spark-host>は自分の環境へ置き換えます。
ssh -N -L 8000:127.0.0.1:8000 <user>@<spark-host>DGX Spark上の推論APIが8000番で待ち受けていれば、Mac側から次のように疎通を確認できます。
curl http://127.0.0.1:8000/v1/models推論APIをインターネットへ直接公開する必要はありません。LAN外から使う場合は、NVIDIA SyncのTailscale連携や組織のVPN、認証付きリバースプロキシなど、アクセス制御を含む経路を選びます。
推論サーバーを用意する
DGX Sparkでは、まずNVIDIA公式のvLLM Playbookに従い、対応コンテナと対象モデルのRecipeを確認します。PlaybookはDGX Sparkを128GB unified memoryのLinuxホストとして扱い、OpenAI互換APIを提供する構成です。
安全な進め方は次の順です。
- DGX OS、driver、container runtimeの版を記録する。
- NVIDIAのRecipeに掲載されたモデルとコンテナで単一ノード起動を確認する。
- DGX Spark自身からAPIのhealth checkと短い生成を試す。
- MacからSSHトンネル経由で同じAPIを呼ぶ。
- モデル名、context長、同時実行数を一項目ずつ変えて測定する。
Ollama、llama.cpp、NIMを選ぶ場合も役割分担は同じです。ただし起動引数やAPI仕様をvLLMの例から流用せず、利用するruntimeの公式手順へ合わせます。
「ハイブリッド」の範囲を誤解しない
この構成で共有するのは処理の流れです。MacがUI、検索、前処理を担当し、DGX Sparkが推論を担当します。両者のメモリを足して一つの巨大モデルをロードしたり、vLLMがMetalとCUDAへ自動的にlayerを分散したりするわけではありません。
NVIDIAが公式に案内するマルチノードvLLMは、QSFP接続とpasswordless SSHを用意したDGX Spark同士の構成です。1台でモデルが収まり、必要な応答時間を満たすなら、単一ノードの方が切り分けや更新は簡単です。
導入後に残す記録
最低限、次を一緒に保存すると再現性が上がります。
- DGX OS、GPU driver、CUDA、container imageのtagまたはdigest
- 推論runtimeとモデルrevision
- context長、同時実行数、量子化方式
- prompt processingと生成を分けた測定結果
- Macからの経路（LAN、SSH tunnel、Tailscale）と往復遅延
本記事では実機を使用していないため、性能値は掲載していません。「最大1 PFLOP」という仕様値と、個別モデルのtokens/s、TTFT、同時処理性能は別の指標です。
公式資料
- NVIDIA DGX Spark製品仕様
- DGX Spark User Guide / Release Notes
- NVIDIA Sync User Guide
- Serve LLMs with vLLM | DGX Spark
以上を基準にすれば、Macの使いやすさとDGX SparkのCUDA環境を、根拠のない協調推論機能に依存せず組み合わせられます。
