Ollama v0.40.2でモデル初回更新、旧コピーの容量に注意
Ollama v0.40.2では、以前の版で取得したモデルを初めて実行すると更新され、旧版へ戻すためのコピーが一時的に残ります。容量と削除前の確認点を解説します。
TAG
#ローカルLLM
ローカルLLMの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全21件。
ローカルLLMの始め方｜Ollamaで最初の会話まで
ローカルLLMの意味から、Mac・Windows・LinuxでOllamaを公式配布元から入手し、小さなモデルを選んで最初の返答を確かめるまでを案内します。
ローカルLLMが動かない・遅いときの確認順
アプリが開かない、モデル取得や読み込みが止まる、返答が遅い・途中で止まるときに、状態を分けて次の確認を一つずつ進める方法を紹介します。
ローカルLLMの機材とモデル選び｜買う前に確認すること
Mac・Windows・LinuxでローカルLLMを試す前に、手持ちのメモリとGPU、モデル容量、用途、言語、量子化、ライセンスの順で候補を絞る方法を解説します。
ローカルLLMの返答が遅い？tokens/sと体感速度の違い
tokens/sのベンチマークと画面の待ち時間がずれる理由を、初回ロード、長い入力、思考表示、待ち行列、配信・描画に分けて解説。数値の読み方と、モデル変更前の確認順をまとめます。
Macが重いときのメモリの読み方｜KVキャッシュとswap
Mac上のローカルLLMが重くなったとき、アクティビティモニタのメモリプレッシャーやswapと、llama.cppのcontext・KV cacheを区別して原因を絞る方法を解説します。
GLM-5.3-FlashのGPU・API選び
GLM-5.3-Flashの320B総parameter・18B active、FP8／BF16、Transformers 5.16.1・vLLM・SGLang対応を確認し、複数GPUとAPIの分岐を判断します。
Qwen3 4B・8B・30B-A3Bの選び方
Qwen3 4B・8B・30B-A3Bを公式品質表、32Kネイティブ／YaRN拡張context、量子化artifact容量から比較し、8GB GPU、16GB Mac、24GB GPU、H100で候補にできる範囲を判断します。
Qwen3 4B・8B・30B-A3B公式性能比較
Qwen3 4B・8B・30B-A3BのBF16と公式4bit品質表を同一指標で照合し、32K／YaRN拡張context、H20公開memory値、DenseとMoEの違いを分離して機器別の適用範囲を示します。
Gemma 3n E2BとE4Bの端末別選び方
Gemma 3n E2B ITとE4B ITを、2GB／3GBの公式memory目安、32K context、画像・音声入力、Google公表品質から選ぶガイドです。速度未測定の範囲も分けて判断できます。
gpt-oss 20bと120bの機器別選び方
gpt-oss-20bと120bを、16GB memory、Apple Silicon、H100 80GB、Windowsで選ぶガイドです。MXFP4の公式容量目安、128K context、現行runtime、未測定範囲を分けて判断できます。
llama.cpp更新とOllama新モデル対応
2026年8月15日から16日に確認した公式releaseから、llama.cppのserver処理・依存更新と、Ollama v0.32.12のQwen 3.8 27B対応を整理します。対象者、今日の判断、未検証範囲を分けて記載します。
llama.cpp投機的decode入門
llama.cpp b10328を基準に、追加model不要のn-gram方式をbaselineから有効化し、応答完了、draft token、acceptanceを確認して元へ戻す最短手順を説明します。
Docker Model Runner入門：最初のAPI応答まで
Docker Model Runnerを初めて使う人向けに、対応版の確認、modelのpullとrun、localhostのOpenAI互換APIで最初の応答を確認する手順、失敗時の戻し方を解説します。
llama.cppがQwen3-TTS対応、ポート変更予告
2026年8月5日に確認したllama.cppの公式更新から、Qwen3-TTS対応とllama-ttsの破壊的変更、既定ポート変更予告を整理し、今日確認すべき運用項目を解説します。
LM Studioおすすめ設定｜メモリ別モデル比較
LM Studio 0.4.20を基準に、Context Length、GPU Offload、Flash Attention、KVキャッシュの設定と、8〜128GBの搭載メモリ別おすすめモデルを解説します。
DGX Spark 8台でGLM-5.2｜ピーク66 tok/sを検証
8台のDGX Sparkで753B級GLM-5.2を動かし、v18でprefill 1,329 tok/s、平均decode 35〜42 tok/s、ピーク66 tok/sを記録した公開例を、条件と注意点まで検証します。
128GB本命？Laguna S 2.1の118B-A8Bを検証
PoolsideのLaguna S 2.1は117.6B総・8.5B activeのMoE。DGX Spark、RTX PRO 6000、128GB Macでの容量、速度、ベンチマークを検証します。
DwarfStarで45 TPS？DeepSeek V4 Flashの128GB推論
DwarfStarでDeepSeek-V4-Flashを128GB環境・45 TPSで動かし、Huihuiのabliterated版へ差し替えたX投稿を検証。1M文脈、KVキャッシュ、2bit量子化の注意点を解説します。
4台のDGX Sparkが勝利？GLM-5.2 ローカル対クラウド
4台のDGX Sparkで動かした4bit版GLM-5.2が、クラウド版をSpark-Benchで91.5対86.8と上回ったX投稿を検証。スコア差の意味と注意点を解説します。
DGX Spark互換機7社比較｜GB10・メモリ・SSD・保証の選び方
NVIDIA DGX Sparkと7つのGB10パートナー機を比較。ASUS GX10の64GB・128GBなど型番ごとのメモリ、SSD、保証、購入前の確認点を公式資料で整理。実機速度や最新価格の比較ではありません。