Ollama v0.40.2でモデル初回更新、旧コピーの容量に注意
Ollama v0.40.2では、以前の版で取得したモデルを初めて実行すると更新され、旧版へ戻すためのコピーが一時的に残ります。容量と削除前の確認点を解説します。
ARTICLE ARCHIVE
記事一覧
ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。
ローカルLLMの始め方｜Ollamaで最初の会話まで
ローカルLLMの意味から、Mac・Windows・LinuxでOllamaを公式配布元から入手し、小さなモデルを選んで最初の返答を確かめるまでを案内します。
ローカルLLMが動かない・遅いときの確認順
アプリが開かない、モデル取得や読み込みが止まる、返答が遅い・途中で止まるときに、状態を分けて次の確認を一つずつ進める方法を紹介します。
ローカルLLMの機材とモデル選び｜買う前に確認すること
Mac・Windows・LinuxでローカルLLMを試す前に、手持ちのメモリとGPU、モデル容量、用途、言語、量子化、ライセンスの順で候補を絞る方法を解説します。
MacでDockerのローカルLLMが遅い？ネイティブ実行とGPUのつながりを整理
Mac上のDockerでローカルLLMが遅いと感じる理由を、Metalを使うネイティブ実行、Linux VMのコンテナ、Docker Model Runnerの実行場所とAPI経路から整理します。
ローカルLLMの返答が遅い？tokens/sと体感速度の違い
tokens/sのベンチマークと画面の待ち時間がずれる理由を、初回ロード、長い入力、思考表示、待ち行列、配信・描画に分けて解説。数値の読み方と、モデル変更前の確認順をまとめます。