ARTICLE ARCHIVE

記事一覧

ローカルAI、GPU、LLM、Dockerの実践記事を新しい順にまとめています。

入門

Responses APIで2回目の会話を続ける入門

OpenAI公式SDKでResponses APIを1回呼び、output_textとresponse.idを確認して2回目へ引き継ぐ最短手順を解説します。API keyの扱い、成功確認、失敗時の戻し方、未実行の範囲も明記します。

技術解説

Responses APIの状態管理を比較する

Responses APIの手動履歴、previous_response_id、Conversations APIを、保存寿命、再開性、入力token課金、障害時の全履歴再送で比較します。公式仕様と推論を分け、実測していない範囲も明記します。

llama.cpp Kimi-K3対応とOllama MLX更新

2026年8月16日に確認した公式releaseから、llama.cpp b10448のKimi-K3対応と、Ollama v0.32.14のMLX依存更新を整理します。対象者、今日の判断、未検証範囲を分けて記載します。

入門

Hugging FaceモデルをGGUFへ変換して量子化する

llama.cpp b10447でHugging Faceの対応モデルを高精度GGUFへ変換し、Q4_K_Mへ量子化して読み込みを確認する手順を解説します。必要なRAM・disk、再量子化を避ける理由、未実行の検証範囲も明記します。

技術解説

llama.cpp量子化でimatrixの効果を測る設計

llama.cpp b10447を固定し、同じsource・calibration data・quant typeでimatrixの有無を比較する検証計画です。file size、peak RAM、変換時間、速度、perplexityと固定task品質を分け、再量子化や未検証hardwareを混ぜない条件を整理します。

llama.cpp更新とOllama新モデル対応

2026年8月15日から16日に確認した公式releaseから、llama.cppのserver処理・依存更新と、Ollama v0.32.12のQwen 3.8 27B対応を整理します。対象者、今日の判断、未検証範囲を分けて記載します。