#応答速度

ローカルLLMの返答が遅い？tokens/sと体感速度の違い

tokens/sのベンチマークと画面の待ち時間がずれる理由を、初回ロード、長い入力、思考表示、待ち行列、配信・描画に分けて解説。数値の読み方と、モデル変更前の確認順をまとめます。