GLM-5.3-Flashのdtype・runtime比較
GLM-5.3-FlashのFP8／BF16をrevision固定し、Transformers 5.16.1、vLLM、SGLangと複数GPU・APIの適用範囲を未測定の性能と分けて比較します。
TAG
#BF16
BF16の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全1件。
TAG
BF16の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全1件。
GLM-5.3-FlashのFP8／BF16をrevision固定し、Transformers 5.16.1、vLLM、SGLangと複数GPU・APIの適用範囲を未測定の性能と分けて比較します。