Gemma 4 12Bと26B-A4Bの機器適性比較
Gemma 4 12Bと26B-A4Bの現行revision、BF16・量子化artifact、MLX・Transformers・vLLM、公式load memoryを固定し、32GB Mac、24GB GPU、H100へ適用できる判断と未測定範囲を比較します。
ARTICLE ARCHIVE
記事一覧
ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。
DGX Sparkを買う前にFreeTokenを試せ｜MoEは箱より配置
FlashMLのFreeTokenは、GPU・CPU・ホストRAM・PCIeを束ねて巨大MoEを既存PCで動かす新ランタイムです。DGX Sparkを買う前に試す価値、開発元ベンチマーク、Linux x86_64要件、ARM64未検証をFreeToken寄りに整理します。
DGX Sparkは終わった？万能AI PCという期待の終焉
DGX Sparkを2026年8月23日時点で調べた記録です。RTX Spark発表後も続いていた公式更新、当時の販売店価格、128GBと273GB/s、Arm64の制約を整理します。
TensorRT-LLM量子化の基本：3つの場所を理解する
TensorRT-LLMの量子化を初めて学ぶ人向けに、weight・activation・KV cacheの違い、対応GPUとcheckpointの確認、公式LLM APIで読み込む最短手順、失敗時の戻し方を整理します。
TensorRT-LLMのFP8比較設計：GPUと品質を固定する
TensorRT-LLMのBF16・FP8・W4A16とFP8 KV cacheを、GPU世代、model revision、calibration、品質、memory、latencyの固定条件から比較する机上の検証設計です。
ZDR安全処理と公式AI更新3件：2026年8月20日
2026年8月19日から20日に確認した公式AI更新を、ZDR互換の安全処理、llama.cppの署名artifact、Transformersの修正に分け、対象者、今日の判断、未検証範囲を整理します。