ARTICLE ARCHIVE

記事一覧

ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。

DGX Spark 1台でMiniMax H3は動く？第三者の公開測定を検証

MiniMax H3をDGX Spark 1台・2台で動かした第三者の公開測定を検証。FP8化とSM121互換修正、公式範囲内の4秒動画、範囲外の2秒smoke test、メモリ余裕、ライセンス制約を整理します。

入門2026/08/08

Apple Silicon MacでMLX LMの共通promptをcache fileへ保存し、別の質問で再利用する手順を解説します。確認方法、memoryとの関係、失敗したときの安全な戻し方も扱います。

MLX LMのPrompt Cacheとrotating KV cacheを混同せず、prefix一致、model、max-kv-size、memory、prefill時間を固定して再利用の適用範囲を評価する方法を解説します。

OpenAIが次期モデルAstraについて、重大なサイバー能力を否定できないとの暫定評価を公表しました。評価の意味、強化された開発時の制御、利用者が誤解すべきでない点を一次情報から整理します。

入門2026/08/07

vLLMで長い入力を処理するPrefillと、応答を1 tokenずつ返すDecodeを分ける理由を解説します。公式demoを安全に読む順序、KV cache転送の確認点、単一構成へ戻す判断を学べます。

vLLMの分離型Prefill/Decodeを導入判断するために、version、GPU、network、KV transferを固定し、TTFT、ITL、tail ITL、throughputを混同せず測る比較計画を解説します。