
DwarfStarで45 TPS?DeepSeek V4 Flashの128GB推論
DwarfStarでDeepSeek-V4-Flashを128GB環境・45 TPSで動かし、Huihuiのabliterated版へ差し替えたX投稿を検証。1M文脈、KVキャッシュ、2bit量子化の注意点を解説します。
記事を読むTAG
DeepSeek V4の導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全3件。

DwarfStarでDeepSeek-V4-Flashを128GB環境・45 TPSで動かし、Huihuiのabliterated版へ差し替えたX投稿を検証。1M文脈、KVキャッシュ、2bit量子化の注意点を解説します。
記事を読む
DGX Sparkを2〜4台接続し、DeepSeek-V4-Flash、GLM-5.2、MiniMax M3を動かした公開実例を調査。量子化、文脈長、tokens/s、構成、再現上の注意点を比較します。
記事を読む
DGX Spark 1〜4台でDeepSeek-V4-FlashとGLM-5.2の量子化モデルをどこまで動かせるか。GGUF・FP8の実サイズ、必要メモリ、200GbE接続を比較します。
記事を読む