ローカルLLMの始め方｜Ollamaで最初の会話まで
ローカルLLMの意味から、Mac・Windows・LinuxでOllamaを公式配布元から入手し、小さなモデルを選んで最初の返答を確かめるまでを案内します。
CATEGORY
ローカル LLM
ローカル LLMの導入、設定、活用方法を実例とともに解説する記事一覧です。 全4件。
ローカルLLMが動かない・遅いときの確認順
アプリが開かない、モデル取得や読み込みが止まる、返答が遅い・途中で止まるときに、状態を分けて次の確認を一つずつ進める方法を紹介します。
ローカルLLMの機材とモデル選び｜買う前に確認すること
Mac・Windows・LinuxでローカルLLMを試す前に、手持ちのメモリとGPU、モデル容量、用途、言語、量子化、ライセンスの順で候補を絞る方法を解説します。
ローカルLLMの返答が遅い？tokens/sと体感速度の違い
tokens/sのベンチマークと画面の待ち時間がずれる理由を、初回ロード、長い入力、思考表示、待ち行列、配信・描画に分けて解説。数値の読み方と、モデル変更前の確認順をまとめます。