NVIDIA DGX Spark向け vLLM + DFlash/DDTree 手順書

先に結論

DFlashは現行vLLMとSpeculatorsで公式に扱われていますが、DDTreeを選ぶ公式vLLM methodやDGX Spark向け公式Recipeは、2026年8月12日の確認範囲では見つかりません。そのため、まずDGX Sparkで通常のvLLM推論を成立させ、対応するDFlash checkpointだけを別条件で検証します。DDTreeの研究実装をvLLMの標準機能として起動するコマンドは掲載しません。

確認日: 2026年8月12日（Asia/Tokyo）
固定した版: vLLM v0.27.1 / 6e448d0、Speculators v0.7.0 / 1c2895f、DFlash論文v2（2026-05-28）、NVIDIA vLLM Playbook（2026-08-03更新）
調査方法: 公式repository、release、documentation、paperによる机上調査。DGX Spark、H100などのGPUでは実行していません。
未検証範囲: GB10でのDFlash kernel対応、checkpointの収容可否、acceptance rate、TTFT、tokens/s、長context、DDTree研究実装の移植。

DFlashとDDTreeを分けて理解する

DFlash論文v2は、小さなblock diffusion modelが複数のdraft tokenを一回のforward passで提案し、target modelが検証する方式です。論文が報告する高速化は論文のmodel、hardware、task、batch条件に対する結果であり、DGX Sparkの保証値ではありません。

DDTree論文は、DFlashが出す各位置の分布からdraft treeを構成し、ancestor-only attention maskで候補を検証する研究です。論文v1の公開日は2026年4月14日で、今回の3か月source windowより前です。現在性の判定には、直近のvLLM/Speculators releaseとdocumentationを別途照合しました。

項目	DFlash	DDTree
目的	block単位のparallel drafting	DFlash分布からtree候補を作る
現行vLLM documentation	`dflash` methodを掲載	`ddtree` methodの掲載を確認できず
Speculators	training・checkpoint形式・vLLM連携を掲載	standard algorithmとしての案内を確認できず
DGX Spark公式Recipe	専用Recipeを確認できず	専用Recipeを確認できず

「論文とcodeが存在する」ことと、「DGX Spark向けvLLM containerで保守される標準機能」は同じではありません。

先に通常のvLLMを確認する

最初の段階ではspeculative decodingを有効にしません。NVIDIAのDGX Spark向けvLLM Playbookから、DGX Spark対応containerとmodel Recipeを選びます。

確認順は次のとおりです。

DGX OS、GPU driver、CUDA、container imageのtagとdigestを記録する。
Recipeの通常構成でmodelをserveする。
health check、短いchat request、同一promptの反復を通す。
model revision、context長、concurrency、samplingを固定してbaselineを保存する。
その後にだけDFlash条件を追加する。

container内のvLLM版は次のように確認できます。

python -c "import vllm; print(vllm.__version__)"

NVIDIA containerの版とupstream最新のvLLM v0.27.1が一致するとは限りません。pip install --upgradeでPlaybookの組み合わせを上書きせず、containerに含まれる版と対応matrixを先に確認します。

DFlashを試す条件

vLLMのSpeculative Decoding documentationは、dflashをmodel-based methodの一つとして掲載しています。Speculators documentationでは、対応形式のspeculator checkpointをvllm serveへ渡すと、checkpointのconfigからtarget modelとspeculative decoding設定を読み込む流れを案内しています。

構文は次の形ですが、<dflash-checkpoint>へ任意のmodel IDを入れてよいわけではありません。

vllm serve <dflash-checkpoint>

採用前にcheckpointのmodel cardで次を確認します。

verifierとなるtarget model名とrevision
DFlash用checkpointであること
必要なvLLM/Speculators version
validationに使われたGPUとdtype
context長、license、custom codeの有無

checkpointがH100だけで検証されている場合、それをGB10対応の証拠にはできません。DGX Sparkではbase serverが動いても、draft modelのattention backendやmemory条件で起動に失敗する可能性があります。

比較試験の作り方

DFlash有効・無効の比較では、次を同じにします。

target modelとrevision
prompt set、入力token数、最大出力token数
temperature、top-p、seedなどのsampling条件
concurrency、warm-up、測定回数
vLLM/container/driverの版

記録する値はTTFT、inter-token latency、request throughput、target/draft双方のmemory、acceptance rateまたはacceptance lengthです。acceptance lengthが高くても、draft計算のoverheadが大きければend-to-end latencyは改善しません。

vLLMはspeculative decodingを理論上losslessな方式として説明していますが、hardware numerical precision、batch、logprobの安定性によってrun間の差が起こり得るとも記載しています。greedy出力の一致だけでなく、sampling分布とapplication品質も別に検証します。

DDTreeは研究枠として隔離する

2026年8月12日時点のvLLM CLI/documentationで確認できるmethodにはDFlash、EAGLE、MTP、draft model、n-gram、suffixなどがありますが、DDTreeは標準methodとして掲載されていません。したがって、次のような扱いにします。

method: "ddtree"をvLLMの公式設定として案内しない。
論文著者のrepositoryを試す場合は、production containerと分ける。
commit、dependency lock、patch、model、raw benchmark logを保存する。
vLLM本流の結果と研究実装の結果を同じ表へ混在させない。

DDTreeのpaper claimをDGX Sparkの速度値へ置き換えることもできません。本記事ではDDTreeを実行していないため、tree budget、acceptance length、tokens/sの推奨値は示していません。

中止条件と戻し方

次のいずれかが起きたらDFlashを外し、通常のvLLM baselineへ戻します。

checkpointが要求するvLLM版とcontainer版が合わない
draft model追加でOOMになる
output品質またはgreedy一致に回帰が出る
TTFTやthroughputがbaselineより悪化する
unsupported backendやcustom patchが必要になる

rollbackはspeculative設定を除いた固定済みbaseline containerへ戻すだけにします。OS、driver、container、Python packageを同時に更新すると原因を追えません。

公式・一次資料

現時点で再現可能な結論は、「DGX Sparkの通常vLLMをbaselineにし、対応checkpointが確認できるDFlashだけを追加試験する」です。DDTreeは公式統合が確認できるまで研究検証として分離します。