llama.cpp、Tool隔離とMetal計算修正

先に結論

本日はllama.cppの連続releaseから、運用判断が変わる2件を採用しました。b10328はllama-serverのTool呼び出しをDocker containerへ中継する初期対応、b10321はApple Metalで特定形状のNORM／RMS_NORMが誤った平均・分散を作る問題の修正です。前者は安全性を自動的に保証する完成機能ではないため隔離境界を別途検証し、後者は該当形状を使うMetal workloadで更新候補にします。

収集日時: 2026年8月9日 06:45（Asia/Tokyo）
対象期間: 2026年8月7日 18:45〜2026年8月9日 06:45（Asia/Tokyo）
情報区分: 公式releaseとmerge済みPRを確認した机上調査です。
検証状況: Docker隔離、Metal kernel、性能、model出力は当サイトでは実機検証していません。

本日の要点

• Tool隔離はhost上の直接実行を減らせますが、初期対応であり、network、mount、権限、imageの信頼性まで自動で解決するものではありません。
• Metal修正は計算の正しさに関わりますが、公式説明では主流LLMのhidden sizeは通常該当せず、320-channelなど別のnorm形状が主な対象です。
• いずれも本番へ即時上書きせず、tagを固定した検証環境で既存requestと安全境界を確認してから採用します。

ニュース一覧

1. llama-serverがDocker経由のTool隔離に初対応

• 何が変わったか: b10328は、Tool呼び出しをDocker containerへ中継する初期実装を追加しました。merge済みPRはllama-server —agent —tools-runtime docker:ubuntu:jammyを例示し、既存containerを指定する経路も説明しています。
• 誰に影響するか: llama-serverのagent機能からshellやfile Toolを実行する開発者です。通常のtext生成だけを使う利用者や、Tool機能を無効にしているserverには直接の変更ではありません。
• 今日対応すべきか: Toolをhost上で直接動かしている検証環境では、b10328を隔離候補として評価します。ただし、機能名だけを根拠に本番の防御策へ昇格させず、containerのmount、user、capability、network、image digest、破棄手順を固定して試します。
• 確認範囲: 公式releaseとPRで追加経路、例示command、2026年8月8日のmergeを確認しました。対応Docker版、Windows／macOS／Linuxごとの差、rootless運用、Podman対応、脅威model、隔離突破への耐性は未確認です。
• 公式情報: llama.cpp b10328 release（2026年8月9日JST公開）、merge済みPR #26507（2026年8月8日merge）

2. MetalのNORM／RMS_NORM計算誤りを修正

• 何が変わったか: b10321は、threadgroupの末尾が不完全なsimdgroupになる形状で、一部の部分和を読めず、行全体の平均と分散が誤る問題を直しました。修正は要素数をsimdgroup全体へ切り上げ、NORMとRMS_NORMの追加testを含みます。
• 誰に影響するか: Apple Metal backendで、simdgroupの倍数にならないnorm形状を実行する利用者です。公式PRは主流LLMのhidden sizeは通常該当しない一方、320-channelなど別の形状では到達し得ると説明しています。
• 今日対応すべきか: 該当するcustom model、multimodal component、画像系model、独自GGML graphをMetalで使う場合は優先して更新testを行います。一般的な4096／8192などのhidden sizeだけを使う運用は、緊急停止ではなく次回保守更新の候補です。
• 確認範囲: 公式PRではM3 Pro上の追加NORM／RMS_NORM testが修正後に全件通った記録を確認しました。当サイトは同じhardware、形状、model出力を再現しておらず、他のApple GPU family、速度差、下流applicationへの影響は未検証です。
• 公式情報: llama.cpp b10321 release（2026年8月8日JST公開）、merge済みPR #26708（2026年8月7日merge）

情報の確認範囲

候補JSONのsummaryは本文へ転記せず、各releaseと対応するmerge済みPRを個別に開き、tag、公開日時、変更内容、対象backend、例示command、追加test、公式が明記した適用範囲を照合しました。同じrepositoryの連続releaseを別々に数えすぎないため、性能fusionやUI修正など他の候補は採用せず、運用境界と計算正しさに関わる2件へ絞りました。

公式情報源

• llama.cpp b10328 release（2026年8月9日JST公開、2026年8月9日確認）
• llama.cpp PR #26507（2026年8月8日merge、2026年8月9日確認）
• llama.cpp b10321 release（2026年8月8日JST公開、2026年8月9日確認）
• llama.cpp PR #26708（2026年8月7日merge、2026年8月9日確認）