vLLM 0.28がKimi-K3とGPU対応を更新
2026年8月26日公開のvLLM 0.28.0を公式releaseで確認し、Kimi-K3・DeepSeek V4・ROCm対応、KV offload、互換性変更、更新前に固定すべき条件を整理します。
TAG
#ROCm
ROCmの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全3件。
ローカルLLM向けGPUのVRAMコスパ比較【2026年8月】円/GBで選ぶ
ローカルLLM向けGPUをVRAM 1GBあたりの実売価格で比較。RTX 5060 Ti 16GB、RTX 3090 24GB、中古、新品Radeon 32GBの選び方を解説します。
llama.cpp GPU比較｜Metal・CUDA・ROCm・Vulkan・SYCL
llama.cppのMetal、CUDA、HIP/ROCm、Vulkan、SYCLを対応機器・OS・build条件で整理。速度順位は作らず、同じGGUFをllama-benchで比較する方法と限界を解説します。