TAG

#推論API

推論APIの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。全1件。

Docker Model RunnerのOCI配布とAPI境界を検証

2026年8月6日時点のDocker Model Runnerを対象に、GGUFとSafetensorsのOCI packaging、llama.cppとvLLMの条件、未認証APIの到達範囲を固定し、再現可能な比較・運用設計を示します。