Qwen3.6 27B vs 35B-A3BをvLLMで比較：品質・VRAM・速度の測り方

情報確認日: 2026年8月12日（各リンク先の現行内容を確認）
固定した版: Qwen3.6-27B-FP8 e89b16eb、Qwen3.6-35B-A3B-FP8 95a723d0、vLLM v0.27.1
検証区分: Qwen公式モデルカード、公式checkpoint、vLLM公式リリース／CLI資料による机上調査です。以下は比較設計とコマンド例で、筆者によるGPU実測結果ではありません。
未検証範囲: GPU世代別の互換性、実VRAM、kernel選択、TTFT・TPOT・throughput、OOM境界、長時間稼働。

仕様比較

公式品質スコア

数値はQwen公式モデルカードの公開値です。vLLMの速度比較や、自分のGPUで量子化した結果ではありません。品質表と配信性能表を混ぜないことが大切です。

重み容量の下限

10進GBでの単純計算です。量子化メタデータ、KV cache、activation、CUDA graph、vision encoderを含みません。35B-A3Bは活性3Bでも、全expert重みの保存は必要です。

vLLM起動例

# 27B FP8
vllm serve Qwen/Qwen3.6-27B-FP8 \
  --tensor-parallel-size 2 \
  --max-model-len 32768 \
  --host 127.0.0.1 --port 8000

# 35B-A3B FP8
vllm serve Qwen/Qwen3.6-35B-A3B-FP8 \
  --tensor-parallel-size 2 \
  --max-model-len 32768 \
  --host 127.0.0.1 --port 8001

コマンドは比較の出発点です。Qwen公式モデルカードはQwen3.6でvLLM 0.19.0以上を案内しており、監査時の最新安定版はv0.27.1でした。ただし、利用できるwheel、GPU世代、driver/CUDA、quantization backendの組み合わせは環境ごとに確認してください。特定kernelが自動選択されるという前提で比較せず、起動ログも保存します。

オンライン性能を比較する

vllm bench serve \
  --backend openai-chat \
  --base-url http://127.0.0.1:8000 \
  --endpoint /v1/chat/completions \
  --model Qwen/Qwen3.6-27B-FP8 \
  --dataset-name random \
  --input-len 1024 \
  --output-len 128 \
  --num-prompts 500 \
  --request-rate 4 \
  --max-concurrency 4 \
  --metric-percentiles 50,95,99

35B-A3Bも同じ入力・出力長とrequest rateで測ります。request rateを1、2、4、8と増やし、次を表にします。

• 成功request/s
• input/output tokens/s
• TTFT p50・p95・p99
• TPOT p50・p95・p99
• peak VRAMとGPU utilization
• queue time、OOM、timeout

品質を再測定する

同じsystem prompt、temperature、seed、thinking設定で、日本語要約、コード修正、長文検索、tool callを各10〜30問評価します。正解を採点できる問題と、人が比較する問題を分けます。

preserve_thinkingの使い方は既存のQwen3.6思考保持の解説も参照してください。

選択の目安

• エージェント・コード品質: 27Bをbaselineにする
• 大量配信: 35B-A3Bの実throughputを測って判断
• VRAM制約: FP8/低bit checkpointとcontextを含む総使用量で比較
• 単一ユーザーのローカル利用: llama.cpp版のGGUF比較も候補

まとめ

Qwen3.6-27Bは公式品質値で優勢、35B-A3BはMoEによる計算効率が魅力です。どちらが速いかはGPU、kernel、量子化、batch、contextで変わります。公式品質表を出発点にし、同じvLLM環境でtail latencyとVRAMを測って初めて運用上の結論が出ます。

公式資料

• Qwen3.6-27B公式モデルカード
• Qwen3.6-35B-A3B公式モデルカード
• Qwen3.6-27B-FP8公式checkpoint
• Qwen3.6-35B-A3B-FP8公式checkpoint
• vLLM v0.27.1 release
• vllm bench serve