MacでDockerのローカルLLMが遅い？ネイティブ実行とGPUのつながりを整理
Mac上のDockerでローカルLLMが遅いと感じる理由を、Metalを使うネイティブ実行、Linux VMのコンテナ、Docker Model Runnerの実行場所とAPI経路から整理します。
CATEGORY
ローカル LLM
ローカル LLMの導入、設定、活用方法を実例とともに解説する記事一覧です。 全19件。
MacのローカルLLMはどこで動く？Metal・仮想マシン・API経由の違い
macOSのネイティブ推論、Docker DesktopのLinux VM、Docker Model Runner、API remotingを実行境界とMetal接続から比較。公式仕様と未実測の限界を整理します。
ChatGPT for Teensとllama.cpp公式更新
2026年8月18日に公開されたOpenAIのChatGPT for Teensとllama.cpp b10488を一次情報で確認し、保護機能とOpenVINO向け変更の影響、今日の対応、未検証範囲を整理します。
OllamaのModelfileで設定を再利用する入門
OllamaのModelfileにベースモデル、system指示、生成parameterを記録し、ollama createとrunで同じ定義を呼び戻す手順を初心者向けに説明します。失敗時の切り分けと、タグだけに頼らない確認方法も整理します。
Ollama設定の再現性をdigest・templateで分解する
OllamaのModelfileを対象に、baseの識別、template、stop、生成parameter、実行環境を分けて再現性を検証する設計を示します。実測値と公式仕様を区別し、adapterやタグ更新の適用外も明記します。
Ollamaとllama.cppの違いは？用途別の選び方と比較
Ollamaとllama.cppの違いを、Macのローカル実行、GGUF管理、API、context・並列処理、設定・検証の用途別に比較。同一GGUFで条件を揃える方法と初心者・開発者ごとの選び方も解説します。
ローカルLLMに必要なVRAMの計算方法｜量子化別
ローカルLLMに必要なVRAMを、GGUFの重み、KVキャッシュ、計算バッファ、並列数、余裕容量へ分けて見積もる方法を解説。量子化別の理論値とllama.cppの確認コマンドも掲載します。
llama.cppが遅い原因と高速化設定｜確認順に解説
llama.cppが遅い原因を、ロード、プロンプト処理、トークン生成に分けて診断。GPUオフロード、メモリ、スレッド、batch、Flash Attention、KV cacheを安全な確認順で調整します。2026年8月2日時点の机上調査です。
llama.cppでGGUFを動かす方法｜導入から実行まで
llama.cppでGGUFモデルを動かす手順を、導入、モデル選択、固定リビジョンでのダウンロード、対話実行、API起動、ログ確認まで順番に解説します。2026年8月2日時点の公式情報に基づく机上調査です。
GGUFモデルが読み込めない原因と対処法｜エラー別
llama.cppでGGUFモデルを読み込めないときの確認順を、破損・分割ファイル・未対応アーキテクチャ・mmproj・メモリ不足などのエラー別に解説します。公式ソースに基づく机上調査です。
Macのメモリ別・動かせるローカルLLM一覧
Apple Silicon Macの搭載メモリ別に、GGUFモデルを選ぶ出発点を整理。ファイル容量だけでなく、KVキャッシュ、context長、同時実行数、macOSのメモリプレッシャーまで含めた判断手順を解説します。
llama.cppコマンド例10選｜llama-cli・llama-server用途別
llama.cppの実行コマンド例10選を2026年7月30日の公式情報で監査。ローカルGGUF、Hugging Face、CPU/GPU、長文脈、JSON、画像入力、複数GPU、OpenAI互換APIを用途別に解説します。検証は机上調査です。
ローカルLLM向けGPUのVRAMコスパ比較【2026年8月】円/GBで選ぶ
ローカルLLM向けGPUをVRAM 1GBあたりの実売価格で比較。RTX 5060 Ti 16GB、RTX 3090 24GB、中古、新品Radeon 32GBの選び方を解説します。
ローカルLLMで画像・動画生成：Ollama・LocalAI連携ガイド
Ollamaの画像理解と画像生成を区別し、LocalAIやComfyUIで画像・動画生成を試す構成、対応backend、公式API例を整理します。
llama.cpp主要パラメータ一覧【2026年8月版】用途別チートシート
llama.cpp b10588の公式README・ソース・自動生成ヘルプ表で主要オプションを監査。GPU、コンテキスト、KVキャッシュ、reasoning、廃止・名称変更を用途別に整理します。
Macでllama.cppを導入する方法：Apple Silicon最適化ガイド
Apple Silicon Macでllama.cppを導入し、GGUFモデル、Metal/GPU活用、基本コマンド、性能確認を行うためのガイド。
llama.cppとは：ローカルAI推論の基本と主要機能
llama.cppの仕組み、GGUF、量子化、CPU・GPUオフロード、ローカル推論の流れと主要機能を、初めて使う人向けに整理して解説します。
UnslothでローカルLLMをClaude Codeと連携させる方法
UnslothやGGUFモデルを使い、ローカルLLMをClaude Code風の開発ワークフローに接続するための構成と注意点を整理。
Qwen3.5をローカルで動かす方法｜Ollama・llama.cpp
Qwen3.5をOllamaまたはllama.cppでローカル実行する手順を紹介。配布中のモデル名、起動確認、thinkingの既定動作とメモリ見積もりの注意点を公式資料に沿って整理します。