llama.cpp投機的decode入門
llama.cpp b10328を基準に、追加model不要のn-gram方式をbaselineから有効化し、応答完了、draft token、acceptanceを確認して元へ戻す最短手順を説明します。
TAG
#投機的デコード
投機的デコードの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全3件。
投機的decodeのAcceptance性能検証
llama.cpp b10328の投機的decodeを対象に、target／draft、prompt、sampling、同時数を固定し、acceptance、TTFT、総時間、memory、出力同等性を方式別に測る机上検証計画です。
vLLM V1入門｜Prefix Cache・Prefill・投機的デコード
vLLM V1のscheduler、automatic prefix caching、chunked prefill、speculative decoding、KV cacheの関係と設定時の注意点を解説します。