MacでDockerのローカルLLMが遅い？ネイティブ実行とGPUのつながりを整理
Mac上のDockerでローカルLLMが遅いと感じる理由を、Metalを使うネイティブ実行、Linux VMのコンテナ、Docker Model Runnerの実行場所とAPI経路から整理します。
TAG
#Docker Model Runner
Docker Model Runnerの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全4件。
MacのローカルLLMはどこで動く？Metal・仮想マシン・API経由の違い
macOSのネイティブ推論、Docker DesktopのLinux VM、Docker Model Runner、API remotingを実行境界とMetal接続から比較。公式仕様と未実測の限界を整理します。
Docker Model Runner入門：最初のAPI応答まで
Docker Model Runnerを初めて使う人向けに、対応版の確認、modelのpullとrun、localhostのOpenAI互換APIで最初の応答を確認する手順、失敗時の戻し方を解説します。
Docker Model RunnerのOCI配布とAPI境界を検証
2026年8月6日時点のDocker Model Runnerを対象に、GGUFとSafetensorsのOCI packaging、llama.cppとvLLMの条件、未認証APIの到達範囲を固定し、再現可能な比較・運用設計を示します。