TAG

#ローカルAI

ローカルAIの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全14件。

AI

DGX Sparkを買う前にFreeTokenを試せ|MoEは箱より配置

FlashMLのFreeTokenは、GPU・CPU・ホストRAM・PCIeを束ねて巨大MoEを既存PCで動かす新ランタイムです。DGX Sparkを買う前に試す価値、開発元ベンチマーク、Linux x86_64要件、ARM64未検証をFreeToken寄りに整理します。

入門

OllamaのModelfileで設定を再利用する入門

OllamaのModelfileにベースモデル、system指示、生成parameterを記録し、ollama createとrunで同じ定義を呼び戻す手順を初心者向けに説明します。失敗時の切り分けと、タグだけに頼らない確認方法も整理します。

AI

Ollamaとllama.cppの違いは?用途別の選び方と比較

Ollamaとllama.cppの違いを、Macのローカル実行、GGUF管理、API、context・並列処理、設定・検証の用途別に比較。同一GGUFで条件を揃える方法と初心者・開発者ごとの選び方も解説します。

AI

llama.cppでGGUFを動かす方法|導入から実行まで

llama.cppでGGUFモデルを動かす手順を、導入、モデル選択、固定リビジョンでのダウンロード、対話実行、API起動、ログ確認まで順番に解説します。2026年8月2日時点の公式情報に基づく机上調査です。

AI

GGUFモデルが読み込めない原因と対処法|エラー別

llama.cppでGGUFモデルを読み込めないときの確認順を、破損・分割ファイル・未対応アーキテクチャ・mmproj・メモリ不足などのエラー別に解説します。公式ソースに基づく机上調査です。

AI

llama.cppコマンド例10選|llama-cli・llama-server用途別

llama.cppの実行コマンド例10選を2026年7月30日の公式情報で監査。ローカルGGUF、Hugging Face、CPU/GPU、長文脈、JSON、画像入力、複数GPU、OpenAI互換APIを用途別に解説します。検証は机上調査です。

AI

Qwen3.5をローカルで動かす方法|Ollama・llama.cpp

Qwen3.5をOllamaまたはllama.cppでローカル実行する手順を紹介。配布中のモデル名、起動確認、thinkingの既定動作とメモリ見積もりの注意点を公式資料に沿って整理します。