llama.cpp GPU比較｜Metal・CUDA・ROCm・Vulkan・SYCL
llama.cppのMetal、CUDA、HIP/ROCm、Vulkan、SYCLを対応機器・OS・build条件で整理。速度順位は作らず、同じGGUFをllama-benchで比較する方法と限界を解説します。
ARTICLE ARCHIVE
記事一覧
ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。
llama-server本番運用ガイド：OpenAI互換APIを安全に公開する
llama.cppのllama-serverを本番運用する際の並列数、コンテキスト、ヘルスチェック、nginx、認証、ログと更新手順を解説します。
llama.cpp最新動向2026年8月：b10375の変更点
2026年8月12日時点のllama.cpp b10375について、今回の修正、GGUF、llama-server、量子化、実験的マルチモーダル、更新時の注意点を整理します。
2GB VPSで複数サイトを運営する方法：nginx・静的サイト・Dockerの構成例
メモリ2GBのUbuntu VPSで複数サイトを安全に運営するためのnginx構成、ディレクトリ設計、Docker分離、監視とバックアップを解説します。
WordPressからAstroへ移行する方法：URL維持・SEO・無停止切替の実践手順
WordPressの記事・画像・URLを維持しながらAstro静的サイトへ移行する手順を、バックアップ、変換、検証、DNS切替まで実践的に解説します。
llama.cppをDockerで動かす方法：CPU・NVIDIA GPU対応ガイド
llama.cpp公式Dockerイメージを使い、CPUまたはNVIDIA GPUでOpenAI互換APIサーバーを安全に起動する方法を解説します。