ローカルLLMの始め方｜Ollamaで最初の会話まで

先に結論

初めてローカルLLMを試すなら、まずは Ollamaを公式配布元から入れ、用途に合う小さめのモデルを一つダウンロードし、短い質問に返答できるか確認します。モデルを比較したり、コードを書いたり、設定を変えたりするのはその後でかまいません。

ローカルLLMは、モデルの重みを自分の端末に置き、その端末上で文章を生成する仕組みです。Ollamaには会話画面のあるmacOS／Windowsアプリがあり、Linuxは公式の端末コマンドで同じランタイムを使えます。アプリを入れただけではモデルはまだダウンロードされていません。

このページは最初の一往復を目指す案内です。動かしやすい機材やモデルを探す段階では、続けてローカルLLMの機材とモデル選びを確認してください。動かない、返答が遅いなど困ったときはローカルLLMの確認順に進めます。3本の案内は初心者向けスタートページにもまとめています。

1. 先に端末の名前と基本情報を見る

まず、今使っているMac、Windows PC、Linux PCの機種とOSを確認します。Macは「このMacについて」、Windowsは「設定」から「システム」→「バージョン情報」を開くと、OSとメモリを確認できます。Linuxはディストリビューション名と版を「設定」や「システム情報」で確認します。メーカー名と製品名が分かれば、後から公式仕様を調べやすくなります。

この段階で「何GBのモデルが動くか」を決めなくて大丈夫です。モデルファイルの容量と、会話中に必要なメモリは同じ数字ではありません。端末のメモリやGPUを含めた選び方は購入前の機材・モデルガイドに分けました。

2. 公式サイトからOllamaを入れる

Ollama公式ダウンロードページで自分のOSを選び、現在配布されているインストーラーを取得します。検索広告や見知らぬ配布サイトのインストーラーではなく、公式ページから入手してください。

• macOS／Windows: 公式アプリをインストールして起動します。モデルを探して取得する画面と、会話する画面がアプリに含まれています。
• Linux: 公式サイトのLinux向け手順を使います。Ollamaは端末でモデルを起動するコマンドを案内しています。Linuxでまだサーバーが動いていない場合は、公式Quickstartにあるollama serveの案内を参照してください。

初回起動時にサインインやモデル種別を尋ねられたら、クラウドではなくローカルで動かすモデルを選びます。モデル名に:cloudが付くものはこのページで扱うローカル実行ではありません。クラウド用アカウントやAPIキーが不要な通常のローカル会話から始めましょう。

3. 小さなローカルモデルを一つ選ぶ

モデルは文章を作る本体です。アプリとモデルは別のものなので、最初はアプリ内のモデル一覧から一つ選び、ダウンロードが完了するまで待ちます。公式モデル一覧で文章会話に対応するローカルモデルを探し、表示容量と手持ちのメモリを見ながら小さい候補を選びます。モデル名とタグを控えておくと、後で同じ候補を確認できます。小さい候補でも、端末ごとの快適な動作を保証するものではありません。

同じモデル名の中に複数の配布形式や量子化（モデルファイルを小さくする表現方法）が並ぶことがあります。必要な空きディスク容量は選ぶ形式で変わります。また、ファイルを保存できることと、会話に必要なメモリが足りることも別です。候補に迷った場合は、購入の前に機材とモデルの選び方で用途、言語、メモリ、利用条件を確認してください。

ダウンロードはファイルを端末に保存する操作、読み込みは生成のためにモデルをメモリへ準備する操作です。ダウンロードが完了したら会話画面でモデルを選び、次の手順で短い依頼を送ります。保存済みのモデルでも、最初の送信後に読み込みや初期化の待ち時間が生じる場合があります。

4. 短い依頼を一つ送り、返答を見る

新しい会話を開き、普段の言葉で短い依頼を入力します。たとえば、次のような文章で構いません。

「明日の会議は15時から16時に変更します」を、意味を変えず丁寧な社内連絡の一文にしてください。

Mac／Windowsアプリでは会話欄に入力し、送信します。Linuxでは公式Quickstartのollama runコマンドに、選んだローカルモデルの正確な名前とタグを指定して起動します。返答を確認したら/byeで終了できます。公式のコマンド例を使うときは、モデル名を自分が選んだ候補に読み替えてください。

返答が出たら、画面に選んだモデル名が表示されているかを確認します。アプリでクラウド用ラベルや:cloudのモデルを選んでいないかも見てください。ローカル実行を確かめる要点は、端末に保存したモデルを読み込み、そのモデル名で返答が出たことです。

この確認は一度会話できたかどうかを見るだけで、速度や回答品質を評価した試験ではありません。短い返答でも内容を確認し、重要な判断をそのまま任せないでください。モデルや依頼によって、間違い、言い回しの不自然さ、待ち時間の差があります。

5. 最初に知っておきたい二つの注意

ローカルを選ぶことと、サービス全体が一切通信しないことは同じではありません。モデル検索やダウンロード、アプリ更新、サインインにはインターネット接続を使う場合があります。会話をローカルで処理したいときは、ローカルモデルが選択されていることを毎回確かめ、機密情報はアプリの通信・保存条件を把握するまで入力しないでください。

また、アプリの利用条件とモデルのライセンスは別です。モデル一覧のライセンス表示を見て、仕事や再配布に使う前に必要な条件を確認します。「無料でダウンロードできる」だけでは、あらゆる用途で無条件に使えるとは限りません。

つまずいたら次に見るページ

ダウンロードが止まる、モデルを選べない、起動後に返事がないときは、画面のメッセージを控えてローカルLLMが動かない・遅いときの確認順へ進みます。別のモデルや端末を選びたいときは機材とモデル選び、入口を選び直したいときは初心者向けスタートページに戻れます。

参考資料

• Ollama v0.35.0付属README（2026年9月28日公開リリースの固定版資料。macOS・Windows・Linuxの導入とローカル会話の入口）
• Ollama v0.35.0 release（2026年9月28日公開。通常の文章会話とは用途の異なる決定モデルへの対応）
• Ollama: decision models（2026年9月29日公開。分類・選択・スコア向けモデルと文章会話モデルの用途の違い）
• Ollama Quickstart（インストール後にローカルモデルを起動する公式手順。Linuxのollama serve分岐を含む）
• Ollama: new app（2025年7月30日公開。macOS／Windowsアプリからモデルをダウンロードしてチャットする機能の背景資料）

確認日: 2026年10月3日（Asia/Tokyo）。公式資料を読んで手順と現行表示を確認しました。記事執筆者が実機でモデルを動かした速度測定や機材検証は行っていません。新しいOllama releaseではローカル会話とは別の決定モデル機能が追加されています。最初の一往復では、通常のローカルチャットモデルを選んでください。