GLM-5.3-Flashのdtype・runtime比較
GLM-5.3-FlashのFP8／BF16をrevision固定し、Transformers 5.16.1、vLLM、SGLangと複数GPU・APIの適用範囲を未測定の性能と分けて比較します。
TAG
#FP8
FP8の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全3件。
DGX Spark 1台でMiniMax H3は動く？第三者の公開測定を検証
MiniMax H3をDGX Spark 1台・2台で動かした第三者の公開測定を検証。FP8化とSM121互換修正、公式範囲内の4秒動画、範囲外の2秒smoke test、メモリ余裕、ライセンス制約を整理します。
Qwen3.6 27B vs 35B-A3BをvLLMで比較：品質・VRAM・速度の測り方
Qwen3.6-27Bと35B-A3BをvLLMで比較し、公式品質スコア、denseとMoEの違い、FP8容量、TTFT・TPOT・throughputの測定方法を解説します。