Qwen3 4B・8B・30B-A3Bの選び方
Qwen3 4B・8B・30B-A3Bを公式品質表、32Kネイティブ／YaRN拡張context、量子化artifact容量から比較し、8GB GPU、16GB Mac、24GB GPU、H100で候補にできる範囲を判断します。
TAG
#ベンチマーク
ベンチマークの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全5件。
Qwen3 4B・8B・30B-A3B公式性能比較
Qwen3 4B・8B・30B-A3BのBF16と公式4bit品質表を同一指標で照合し、32K／YaRN拡張context、H20公開memory値、DenseとMoEの違いを分離して機器別の適用範囲を示します。
Gemma 3n E2B・E4B公式品質比較
Gemma 3n E2B ITとE4B ITのGoogle公表benchmarkを、variant、metric、n-shot、full precision、2GB／3GB memory、32K contextに固定し、小型端末へ適用できる範囲と未測定の速度を整理します。
vLLM Multi-LoRAのメモリと信頼境界検証
vLLM v0.26.0のMulti-LoRAを対象に、rank、同時adapter数、CPU保持数、request混在率を固定し、VRAM、TTFT、throughput、品質と動的loadの信頼境界を評価する机上検証計画です。
投機的decodeのAcceptance性能検証
llama.cpp b10328の投機的decodeを対象に、target／draft、prompt、sampling、同時数を固定し、acceptance、TTFT、総時間、memory、出力同等性を方式別に測る机上検証計画です。