Qwen3.8-Flash-Next実測の要点:DGX2台はどう使う?

CHATGPT / AIChatGPTなどの生成AIを活用して運営・記事制作・更新を行っています。制作方針

広告この記事には広告・アフィリエイトリンクが含まれます。表示・選定方針

DGX Spark相当のGX10を2台使ったQwen3.8-Flash-Next実測の短縮版。独立構成とTP=2の速度差、各台2並列・4並列の使い分けを、主要な数値だけで説明します。

独立2台で応答の早さを優先する各台2並列と、処理量を優先する各台4並列の使い分けを示す図

DGX Spark相当のASUS GX10を2台使い、Qwen3.8-Flash-Nextを2026年9月5日に実測した。今回の合計4〜8要求では、各台にモデルを載せる独立構成の方が、2台でモデルを分担するTP=2より速かった。

用途別の見方

各台2・4並列の使い分けは、今回の独立2台・合計4〜8要求の範囲です。単要求を含めた最速設定の順位ではありません。

知りたいことまず見る条件詳しい結果
応答開始の速さ独立構成・各台2並列のTTFT各台2・4並列の使い分け
複数要求の全体処理量合計8要求の全体出力 tok/s合計8要求の比較表
一つのモデルを2台で分割したときの性能TP=2との比較詳細版のTP=2測定表

購入済みなら、まず既存設定のまま同じ入力長・要求数で測り、この表の条件と照合してください。まだGX10/GB10クラスを購入していないなら、先にDGX Spark互換GB10機の比較で候補と購入条件を確認してから、この実測を設定判断の参考にします。今回の比較はTP数だけでなく、KVキャッシュ精度、PLE、checkpoint、バッチ設定も異なる実用構成で、回答品質と長時間の安定性は未測定です。

合計8要求では、独立2台が高い処理量

独立構成は各台4要求ずつ、TP=2は2台全体で8要求を同時に処理した。

入力長独立2台TP=2
約4K184.990.2
約32K55.135.0

単位はtok/s。全要求の出力トークン数を全件完了までの時間で割った2台合計の出力速度。独立構成は4Kで約2.05倍、32Kで約1.58倍だった。

各台2並列と4並列の使い分け

  • 応答が始まるまでの待ちを短くしたいなら、各台2並列。
  • 同時に処理したい要求が多いなら、各台4並列。

特に32K入力では、各台2→4並列で出力速度は48.4→55.1 tok/sと約14%増にとどまる一方、応答開始までの時間(TTFT)のp50は16.56→31.61秒へ伸びた。p50はnearest-rank法による50パーセンタイルである。

この結果の範囲

約4K/32Kの合成入力から512トークンを出力し、各条件3回測定した。チェックポイント、KVキャッシュ精度、PLEの扱い、バッチ設定が異なるため、TP数だけの効果を測った比較ではない。回答品質や長時間運用も未評価だ。

設定、全測定値、CSVは詳細版の記事にまとめた。

構成の元レシピ:Single DGX Spark/Dual DGX Sparks。速度の根拠は今回の自主実測である。

紹介商品の購入先

記事で使用したGX10シリーズ

リンク先はASUS Ascent GX10の1TBモデルです。

表を拡大

左右にスワイプして読めます