DGX Spark GPUクロック実測|2000MHzで報告電力40%減
DGX SparkでQwen3.8-27B MTPを定格から1800〜2200MHzまで実測。2000MHzでdecode -0.75%、prefill -1.51%、nvidia-smiのGPU報告電力 -40.61%となった条件、2台構成の不安定性、安全な設定手順を示します。
CATEGORY
NVIDIA GPU、Apple Silicon、CUDAなど、AI推論を高速化するハードウェアと設定を解説します。 全18件。
DGX SparkでQwen3.8-27B MTPを定格から1800〜2200MHzまで実測。2000MHzでdecode -0.75%、prefill -1.51%、nvidia-smiのGPU報告電力 -40.61%となった条件、2台構成の不安定性、安全な設定手順を示します。
FlashMLのFreeTokenは、GPU・CPU・ホストRAM・PCIeを束ねて巨大MoEを既存PCで動かす新ランタイムです。DGX Sparkを買う前に試す価値、開発元ベンチマーク、Linux x86_64要件、ARM64未検証をFreeToken寄りに整理します。
DGX Sparkを2026年8月23日時点で調べた記録です。RTX Spark発表後も続いていた公式更新、当時の販売店価格、128GBと273GB/s、Arm64の制約を整理します。
ローカルLLMに必要なVRAMを、GGUFの重み、KVキャッシュ、計算バッファ、並列数、余裕容量へ分けて見積もる方法を解説。量子化別の理論値とllama.cppの確認コマンドも掲載します。
UbuntuとNVIDIA GPUでllama-serverを運用する人向けに、--parallelと--cont-batchingの関係、コンテキスト配分、同時リクエストの確認手順と注意点を公式仕様に基づいて解説します。
8台のDGX Sparkで753B級GLM-5.2を動かし、v18でprefill 1,329 tok/s、平均decode 35〜42 tok/s、ピーク66 tok/sを記録した公開例を、条件と注意点まで検証します。
PoolsideのLaguna S 2.1は117.6B総・8.5B activeのMoE。DGX Spark、RTX PRO 6000、128GB Macでの容量、速度、ベンチマークを検証します。
DwarfStarでDeepSeek-V4-Flashを128GB環境・45 TPSで動かし、Huihuiのabliterated版へ差し替えたX投稿を検証。1M文脈、KVキャッシュ、2bit量子化の注意点を解説します。
4台のDGX Sparkで動かした4bit版GLM-5.2が、クラウド版をSpark-Benchで91.5対86.8と上回ったX投稿を検証。スコア差の意味と注意点を解説します。
DGX Sparkを2〜4台接続し、DeepSeek-V4-Flash、GLM-5.2、MiniMax M3を動かした公開実例を調査。量子化、文脈長、tokens/s、構成、再現上の注意点を比較します。
DGX Spark 1〜4台でDeepSeek-V4-FlashとGLM-5.2の公開重み・GGUF容量を整理。配布ファイルの表示サイズ、128GB/台の公称構成、200GbE接続の前提と未検証事項を確認します。動作保証ではありません。
NVIDIA DGX Sparkと7つのGB10パートナー機を比較。ASUS GX10の64GB・128GBなど型番ごとのメモリ、SSD、保証、購入前の確認点を公式資料で整理。実機速度や最新価格の比較ではありません。
Mac Studio M5 Max・M5 Ultra、DGX Spark、RTX PRO 5000 48/72GB、RTX PRO 6000 96GBを、構成別メモリ・帯域・導入形態から比較。価格は確認日付きの参考情報です。
ローカルLLM向けGPUをVRAM 1GBあたりの実売価格で比較。RTX 5060 Ti 16GB、RTX 3090 24GB、中古、新品Radeon 32GBの選び方を解説します。
llama.cppのMetal、CUDA、HIP/ROCm、Vulkan、SYCLを対応機器・OS・build条件で整理。速度順位は作らず、同じGGUFをllama-benchで比較する方法と限界を解説します。
NVIDIA DGX SparkでvLLM、DFlash、DDTreeを試すための環境要件、セットアップ手順、検証ポイントを整理した実践メモ。
MacとNVIDIA DGX Sparkを組み合わせ、LLM推論、クライアント利用、分散構成、役割分担を考えるための最適化ガイド。
MacとDGX Sparkを組み合わせ、SSH、vLLM、Ollama、RAGなどの役割分担でLLMハイブリッド環境を作るためのガイド。