DGX Sparkを買う前にFreeTokenを試せ|MoEは箱より配置
FlashMLのFreeTokenは、GPU・CPU・ホストRAM・PCIeを束ねて巨大MoEを既存PCで動かす新ランタイムです。DGX Sparkを買う前に試す価値、開発元ベンチマーク、Linux x86_64要件、ARM64未検証をFreeToken寄りに整理します。
TAG
ローカルAIの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全14件。
FlashMLのFreeTokenは、GPU・CPU・ホストRAM・PCIeを束ねて巨大MoEを既存PCで動かす新ランタイムです。DGX Sparkを買う前に試す価値、開発元ベンチマーク、Linux x86_64要件、ARM64未検証をFreeToken寄りに整理します。
DGX Sparkを2026年8月23日時点で調べた記録です。RTX Spark発表後も続いていた公式更新、当時の販売店価格、128GBと273GB/s、Arm64の制約を整理します。
OllamaのModelfileにベースモデル、system指示、生成parameterを記録し、ollama createとrunで同じ定義を呼び戻す手順を初心者向けに説明します。失敗時の切り分けと、タグだけに頼らない確認方法も整理します。
Ollamaとllama.cppの違いを、Macのローカル実行、GGUF管理、API、context・並列処理、設定・検証の用途別に比較。同一GGUFで条件を揃える方法と初心者・開発者ごとの選び方も解説します。
llama.cppでGGUFモデルを動かす手順を、導入、モデル選択、固定リビジョンでのダウンロード、対話実行、API起動、ログ確認まで順番に解説します。2026年8月2日時点の公式情報に基づく机上調査です。
llama.cppでGGUFモデルを読み込めないときの確認順を、破損・分割ファイル・未対応アーキテクチャ・mmproj・メモリ不足などのエラー別に解説します。公式ソースに基づく机上調査です。
llama.cppの実行コマンド例10選を2026年7月30日の公式情報で監査。ローカルGGUF、Hugging Face、CPU/GPU、長文脈、JSON、画像入力、複数GPU、OpenAI互換APIを用途別に解説します。検証は机上調査です。
Ollamaの画像理解と画像生成を区別し、LocalAIやComfyUIで画像・動画生成を試す構成、対応backend、公式API例を整理します。
llama.cpp b10588の公式README・ソース・自動生成ヘルプ表で主要オプションを監査。GPU、コンテキスト、KVキャッシュ、reasoning、廃止・名称変更を用途別に整理します。
2026年8月12日時点のllama.cpp b10375を、直前期のb9968、公式README、server仕様と照合し、更新時の確認点とともに整理します。
Qwen3.6とQwen3.8のpreserve_thinkingを比較。履歴保持の既定値、reasoning_effort、ローカルAPIとQwen Cloudでの指定方法を整理します。
llama.cppの仕組み、GGUF、量子化、CPU・GPUオフロード、ローカル推論の流れと主要機能を、初めて使う人向けに整理して解説します。
UnslothやGGUFモデルを使い、ローカルLLMをClaude Code風の開発ワークフローに接続するための構成と注意点を整理。
Qwen3.5をOllamaまたはllama.cppでローカル実行する手順を紹介。配布中のモデル名、起動確認、thinkingの既定動作とメモリ見積もりの注意点を公式資料に沿って整理します。