llama.cppコマンド例10選｜llama-cli・llama-server用途別
llama.cppの実行コマンド例10選を2026年7月30日の公式情報で監査。ローカルGGUF、Hugging Face、CPU/GPU、長文脈、JSON、画像入力、複数GPU、OpenAI互換APIを用途別に解説します。検証は机上調査です。
TAG
#llama-server
llama-serverの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全4件。
llama-serverの連続バッチング設定｜並列リクエストの確認方法
UbuntuとNVIDIA GPUでllama-serverを運用する人向けに、--parallelと--cont-batchingの関係、コンテキスト配分、同時リクエストの確認手順と注意点を公式仕様に基づいて解説します。
llama-server本番運用ガイド：OpenAI互換APIを安全に公開する
llama.cppのllama-serverを本番運用する際の並列数、コンテキスト、ヘルスチェック、nginx、認証、ログと更新手順を解説します。
llama.cpp最新動向2026年8月：b10375の変更点
2026年8月12日時点のllama.cpp b10375について、今回の修正、GGUF、llama-server、量子化、実験的マルチモーダル、更新時の注意点を整理します。