Macが重いときのメモリの読み方|KVキャッシュとswap
Mac上のローカルLLMが重くなったとき、アクティビティモニタのメモリプレッシャーやswapと、llama.cppのcontext・KV cacheを区別して原因を絞る方法を解説します。
ARTICLE ARCHIVE
ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。
Mac上のローカルLLMが重くなったとき、アクティビティモニタのメモリプレッシャーやswapと、llama.cppのcontext・KV cacheを区別して原因を絞る方法を解説します。
macOSのネイティブ推論、Docker DesktopのLinux VM、Docker Model Runner、API remotingを実行境界とMetal接続から比較。公式仕様と未実測の限界を整理します。
Claude Opus 5.5と5をAPI単価、常時thinking、公開品質表から比較。Mac・Windows・Linuxの利用者が、試用する条件と既存処理を維持する条件を判断できます。
Claude Opus 5.5と5の開発元品質表を、effort・safeguards・fallback条件付きで照合。API単価とtask費用を分け、Mac・Windows・Linuxから使う場合の判断と未検証範囲を示します。
Ollama 0.34.3正式版の/api/showでGLM-5.3-Flash cloudのthinking valuesと既定値を確認し、用途に合わせた値をrequestへ指定する手順を整理します。
Ollama v0.34.3の/api/showが返すthinking values/defaultと、Chat/Generate requestでの値の指定を区別し、未測定の性能範囲を整理します。