llama.cpp量子化でimatrixの効果を測る設計
llama.cpp b10447を固定し、同じsource・calibration data・quant typeでimatrixの有無を比較する検証計画です。file size、peak RAM、変換時間、速度、perplexityと固定task品質を分け、再量子化や未検証hardwareを混ぜない条件を整理します。
TAG
#検証設計
検証設計の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全2件。
GGUF逆量子化とroundtripの監査設計
Transformers v5.15.0とllama.cpp b10418を固定し、GGUF読込時のpeak RAM、Hugging Face形式保存、再変換後のmetadata・tokenizer・出力差を監査する机上検証計画です。