ARTICLE ARCHIVE

記事一覧

ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。

Jalapeño推論性能とllama.cpp 0.3.0

2026年8月25日の公式更新から、JalapeñoのGPT-OSS 120B推論測定とllama.cpp 0.3.0のモデル・Metal・分散実行変更を、条件、機器への影響、今日の判断に分けて整理します。

入門

Nemotron 3 NanoをH200で選ぶ実用ガイド

Nemotron 3 Nano 30B-A3BのBF16・FP8、gpt-oss-20b、Qwen3-30B-A3Bを、NVIDIA公表の単一H200・8K入力・16K出力へ限定して読み、H200、H100、NIMで候補を選ぶ方法を解説します。

Nemotron 3 NanoのH200 throughput比較

Nemotron 3 Nano 30B-A3B、gpt-oss-20b、Qwen3-30B-A3BのNVIDIA公表値を、単一H200、8K入力、16K出力へ固定し、throughput倍率、quality、context、H100・NIMへの適用外を比較します。

入門

Gemma 4 12Bと26B-A4Bの選び方

Gemma 4 12Bと26B-A4Bを、32GB Mac、24GB GPU、H100 80GBで選ぶ実用ガイドです。公式memory表、現行revision、対応runtime、未実測範囲を分けて判断できます。