TAG

#推論検証

推論検証の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。全1件。

llama.cpp LoRA scale比較の設計

llama.cpp b9637のLoRAを対象に、base・prompt・samplingを固定してscaleと複数adapterを比較し、品質、load memory、batching、切替運用の適用範囲を評価する設計を解説します。