DGX Sparkのメモリ表示を読む｜GPU使用量とswapの確認順
DGX SparkでcudaMemGetInfoが示す空き容量とUMAのswap回収をどう読み分けるかを解説。実機の割り当てを保証せず、仕様確認・Linuxのメモリ観測・対象アプリでの起動確認を順に整理します。
TAG
#NVIDIA
NVIDIAの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全10件。
DGX Spark GPUクロック実測｜2000MHzで報告電力40%減
DGX SparkでQwen3.8-27B MTPを定格から1800〜2200MHzまで実測。2000MHzでdecode -0.75%、prefill -1.51%、nvidia-smiのGPU報告電力 -40.61%となった条件、2台構成の不安定性、安全な設定手順を示します。
TensorRT Model ConnectのC++推論更新
NVIDIAが2026年8月28日に公開したTensorRT Model Connectを一次情報で確認し、checkpointからC++推論へ移す手順、対応環境、preview上の制限、今日の検証判断を整理します。
TensorRT-LLM量子化の基本：3つの場所を理解する
TensorRT-LLMの量子化を初めて学ぶ人向けに、weight・activation・KV cacheの違い、対応GPUとcheckpointの確認、公式LLM APIで読み込む最短手順、失敗時の戻し方を整理します。
TensorRT-LLMのPyTorch移行入門
TensorRT engine backend削除後のTensorRT-LLMを初めて扱う人向けに、対応環境の確認、checkpointからtrtllm-serveを起動する最短手順、成功確認、失敗時の戻し方を解説します。
llama-serverの連続バッチング設定｜並列リクエストの確認方法
UbuntuとNVIDIA GPUでllama-serverを運用する人向けに、--parallelと--cont-batchingの関係、コンテキスト配分、同時リクエストの確認手順と注意点を公式仕様に基づいて解説します。
llama.cppをDockerで動かす方法：CPU・NVIDIA GPU対応ガイド
llama.cpp公式Dockerイメージを使い、CPUまたはNVIDIA GPUでOpenAI互換APIサーバーを安全に起動する方法を解説します。
NVIDIA DGX Spark向け vLLM + DFlash/DDTree 手順書
NVIDIA DGX SparkでvLLM、DFlash、DDTreeを試すための環境要件、セットアップ手順、検証ポイントを整理した実践メモ。
MacとNVIDIA DGX SparkでLLMワークロードを最適化する方法
MacとNVIDIA DGX Sparkを組み合わせ、LLM推論、クライアント利用、分散構成、役割分担を考えるための最適化ガイド。
MacとDGX Sparkで作るLLMハイブリッド環境構築ガイド
MacとDGX Sparkを組み合わせ、SSH、vLLM、Ollama、RAGなどの役割分担でLLMハイブリッド環境を作るためのガイド。