ローカルLLMの機材とモデル選び｜買う前に確認すること
CHATGPT / AIChatGPTなどの生成AIを活用して運営・記事制作・更新を行っています。制作方針
Mac・Windows・LinuxでローカルLLMを試す前に、手持ちのメモリとGPU、モデル容量、用途、言語、量子化、ライセンスの順で候補を絞る方法を解説します。
先に結論
ローカルLLM用の機材を買う前に、まず手持ちの端末情報を調べ、用途・言語・モデルの利用条件を決め、小さい候補を短い依頼で試す順に進めましょう。モデルファイルの表示容量だけで、必要メモリや速度、買うべきPCを決めることはできません。
モデルの重みは推論時に必要な資源の一部です。モデルを実行するプログラム、会話に残す文脈、計算のための領域、OSや他アプリが使う分も残します。ファイル容量に余裕を足せば必ず動く、という単純な足し算ではありません。
このページでは購入前の判断順をまとめます。初めて端末で一往復する手順はOllamaでローカルLLMを始める、導入後に不調が出た場合はローカルLLMの確認順を見てください。入口は初心者向けスタートページです。
1. まず手持ちの端末を記録する
買い替え候補を探す前に、次の情報を確認します。
- Mac: 機種、Apple Siliconのチップ名、搭載メモリ、macOSの版。Apple Silicon MacではCPUとGPUが同じ統合メモリを使う構成があります。
- Windows PC: CPU、搭載メモリ、GPU名と専用VRAMの有無・容量。専用GPUのVRAMと、PCの通常メモリ（RAM）は別に表示されることがあります。
- Linux PC: ディストリビューションと版、CPU、搭載メモリ、GPUとVRAM。メーカー設定画面やシステム情報を優先し、慣れていない端末操作を無理に実行する必要はありません。
- 全OS: モデルの保存先として使える空きストレージ。ダウンロードの途中には、一時ファイル用の空きも必要になる場合があります。
Macの統合メモリ容量をWindowsの専用VRAMと同一視したり、「GPUがある」だけでモデルの大半がGPUに載ると考えたりしないでください。実行方式やモデルの構造で使われ方が異なります。GPUがない端末でもCPUとシステムメモリで起動する構成はありますが、実行可能性は端末・モデル・設定で変わり、速度はこの情報だけからは判断できません。
2. ダウンロード容量と実行メモリを分けて考える
ダウンロード時のGB表示は、端末に保存するファイルのおおよその容量です。会話を始めるには、重みに加えて推論用の一時領域や会話文脈も必要になります。文脈は、それまでの会話や入力をモデルが参照する範囲です。長い会話や大きな入力を扱うと、短い質問より多くのメモリを使うことがあります。
さらに、ブラウザーや動画編集など他のアプリも同じ端末資源を使います。OSが表示する総メモリ、GPUの専用VRAM、モデルファイルのサイズ、推論中の実使用量は、似た単位でも別の値です。モデル名の「7B」のような数字も、重みのバイト数や必要VRAMをそのまま示すものではありません。
同じモデルでも、保存形式や量子化の違いでファイルサイズが変わります。公式一覧の表示容量は、まず保存するファイルの大きさを確認するための値です。表示容量が小さくても、起動時に必要な追加メモリは残しておく必要があります。モデル名とタグ、保存形式、表示容量は選ぶ当日に公式ページで確かめ、必要な空きメモリや性能の実測値として読み替えないでください。
3. どんな作業に使うかを先に決める
「とにかく賢いモデル」を探すより、よく頼みたい仕事を一つ決めます。日本語の短文要約、文章の言い換え、コードの説明、画像の説明など、仕事が違えば必要なモデル機能も変わります。モデルの説明欄に書かれた対応言語や入力形式を確認し、実際に使う短い日本語の依頼で返答を見てください。公開された評価値があっても、評価に使われた課題や端末が自分の用途と同じとは限りません。
Ollamaの2026年9月28日公開版は、通常の会話文を返すモデルに加えて、選択肢、確率、スコアを返す「decision model」向けの仕組みを追加しました。翌29日の説明では、問い合わせの分類や候補選びなど、定型判断向けの使い方が示されています。これは幅広い文章で会話する一般的なチャットモデルとは出力の目的が異なります。最初に使うタスクが文章の要約や相談なら、決定専用モデルを選ぶ理由はありません。
4. モデル名、量子化、利用条件を見る
候補の配布ページでは、次を順に見ます。
- 用途と言語: 説明文や公式モデルカードで、したい作業と日本語の利用条件が書かれているか。
- 配布元と形式: 開発元または信頼できる配布元のモデルか。Ollamaではモデル名、タグ、推論バックエンドによって形式が異なることがあります。
- 量子化:
Q4やQ8のような表記は重みを表す精度を下げ、ファイルを小さくする方法の一種です。小さい方が必ず同じ品質、速度になるという意味ではありません。選択肢ごとに公式説明を確認します。 - ライセンス: ランタイムのライセンスとは別に、モデル重みのライセンスや利用条件を確認します。仕事、公開、再配布に使う場合は該当する条件を読みます。
- 容量表示: ファイルサイズと空きストレージを比べます。同時に、実行メモリにはモデル本体以外の余地が要ると見込んでください。
gemma4:e2bの公式ページは、複数の配布バリアント、ファイル形式、量子化、ライセンス情報を掲載しています。同じ名前に複数のサイズが見えるのは、モデルの有効な情報の一つがファイル容量だけではない例です。ページの表示値は配布時点の情報であり、この記事ではその候補を読者の端末で実行していません。
5. まず買わずに小さい候補を試す
端末を決めたら、公式ランタイムのモデル一覧から小型系統を一つ選びます。Ollamaの例ならgemma4:e2bが選択肢の一つです。名前に:cloudが付いた候補ではなく、ダウンロードしてローカル読み込みするモデルを選びます。前ページのOllama初回セットアップに、アプリでの確認手順とLinuxのコマンド例を載せています。
初回は設定を一度に変えず、短い依頼を一件入力してください。たとえば、「この文章を60字以内の自然な日本語で要約してください」と頼みます。確認するのは、モデルがローカルとして読み込まれるか、必要な言語と作業で使える返答になるか、待ち時間が自分の許容範囲か、作業中に端末が重くならないかです。これは各自が自分の用途で行う確認であり、この記事の実測結果や速度比較ではありません。
読み込み時にメモリ不足の表示が出るなら、いきなりPCを買う前に、より小さなバリアントや控えめな会話文脈を試せるか、同時に開いているアプリを閉じると変わるかを確認します。日本語が合わない、指示に応じない場合は、同じモデルの数値を上げるより、モデルの学習対象や用途を調べ直します。困ったときの確認順は動かない・遅い場合の案内にまとめました。
6. 追加の機材が必要かを判断する
手持ち端末で試せるモデルがあり、返答の待ち時間や品質が用途に合うなら、追加購入を急ぐ理由はありません。より長い文章、複雑な仕事、より大きなモデルを必要とし、試した候補では足りないと分かってから、候補機材のメモリ、GPU、ストレージ、予算を比較します。
購入時は、モデルの総パラメーター数、アクティブパラメーター数、量子化、文脈長だけで性能を断定せず、可能なら候補機材上の同じモデルと同じ条件で試します。手元で確認できないときは、公式の必要条件や信頼できるベンチマークを読み、測定した端末・実行ソフト・モデル版・量子化・入力条件が比較したい条件に近いかを確かめます。自分が測っていない数値を、自分の環境での結果として扱わないでください。
買うかどうかの最後の問いは、「いま解決したい作業があり、現機材では必要な品質や待ち時間を満たせず、その差を新しい機材で埋められる根拠があるか」です。モデルの容量表示だけを根拠にした買い替えは避け、先に一つ試してから判断します。
入口と次のページ
最初の会話をまだ試していないなら、ローカルLLMを初めて動かす手順へ。導入後に画面や応答で困っているならローカルLLMのトラブル確認へ進めます。はじめて読む人向けの順路は初心者向けスタートページから選べます。
参考資料
- Ollama v0.35.0 release（2026年9月28日公開。通常の文章会話と決定モデルの用途の違い）
- Ollama: decision models（2026年9月29日公開。問い合わせ分類や選択などの用途）
- Ollama: Gemma 4 E2B model and tags（保存形式、量子化、容量、ライセンスを確認する公式モデルページの例。具体的な値は選択時に確認）
- Ollama Quickstart（選んだローカルモデルを実行する公式手順）
確認日: 2026年10月3日（Asia/Tokyo）。Ollamaとモデル配布元の公式資料を照合しました。Mac、Windows、Linuxでの実機測定、返答品質比較、機材購入評価は行っていません。