ローカルLLM向けGPUのVRAMコスパ比較【2026年8月】円/GBで選ぶ

CHATGPT / AIChatGPTなどの生成AIを活用して運営・記事制作・更新を行っています。制作方針

広告この記事には広告・アフィリエイトリンクが含まれます。表示・選定方針

ローカルLLM向けGPUをVRAM 1GBあたりの実売価格で比較。RTX 5060 Ti 16GB、RTX 3090 24GB、中古、新品Radeon 32GBの選び方を解説します。

GPUの容量単価を入口に、互換性と電源・冷却を含む総費用で選ぶ比較図解

先に結論

新品NVIDIAの本命はGeForce RTX 5060 Ti 16GBです。価格監視ページの表示値99,980円では約6,249円/GBですが、この値の最終取得日は8月15日で、購入時の在庫・価格を保証しません。選定理由は、CUDAの扱いやすさを保ちながら16GBを確保できることです。

VRAM単価だけならRadeon RX 9060 XT 16GBが約3,874円/GBで有利です。24GBが必要なら中古RTX 3090、32GBの新品ならRadeon AI PRO R9700が候補。ただしAMDはROCm対応環境、中古は状態・保証・電源まで確認して選びます。

価格・在庫の確認日: 2026年8月23日
仕様再監査日: 2026年8月23日。NVIDIAとAMDの現行製品仕様、ROCm 7.14互換性表を再確認
計算方法: 公開価格 ÷ 公称VRAM容量。価格監視ページの値には取得日が古い、または在庫切れの候補が含まれるため、順位は購入時の相場を保証しません。RTX 3090は監視した中古販売店で在庫を確認できず、単価を算出していません。
検証区分: 公式仕様と公開価格による机上調査。GPU実機での推論速度・安定性・消費電力は測定していません。

VRAMコスパ比較表

GPUVRAM参考価格1GBあたりローカルLLMでの位置付け
Radeon RX 9060 XT16GB61,980円3,874円容量単価重視。ROCm環境を要確認
中古RTX 309024GB在庫確認できず—24GB+CUDA。在庫・状態・消費電力に注意
Radeon RX 907016GB89,800円5,613円AMDで速度との両立を狙う
GeForce RTX 5060 Ti16GB99,980円6,249円新品NVIDIAのバランス型
Radeon AI PRO R970032GB289,800円9,056円Linux・ROCm中心に32GBを確保
Radeon RX 9070 XT16GB165,800円10,363円VRAM単価より演算性能寄り
GeForce RTX 5070 Ti16GB167,979円10,499円速度も重視する16GB CUDA機
GeForce RTX 508016GB194,980円12,186円ゲーム・生成速度との兼用向け
GeForce RTX 509032GB716,800円22,400円容量単価より最高性能とCUDA

現行GeForceとゲーミングRadeonはGPU Price Watchの8月23日表示、R9700は価格.comの同日表示を使用しました。RTX 3090はじゃんぱら検索で在庫なしを確認しました。公称VRAMはNVIDIA/AMD公式仕様と照合しています。

紹介商品の購入先

用途が決まったら、GPU候補を確認

必要なVRAM容量、CUDA/ROCm、保証条件を決めてから、本文で比較した3候補を確認します。

用途別のおすすめ3案

迷ったら新品RTX 5060 Ti 16GB

NVIDIAの新品から選ぶなら、16GB版RTX 5060 Tiが最も説明しやすい基準機です。12GB以下より載せられるモデルとコンテキストの幅が広く、CUDA対応ツールの情報も探しやすいからです。

同じRTX 5060 Tiの8GB版は価格監視ページで74,800円、16GB版との差は25,180円です。ローカルLLMを主目的に新調するなら、商品名だけでなく「16GB」表記を必ず確認してください。Blackwell世代は古いCUDA buildで動かない場合があるため、driverとCUDA Toolkit 12.8以降への対応も利用ソフトごとに確認します。

24GB+CUDAなら中古RTX 3090

8月23日に監視した中古販売店ではRTX 3090の在庫を確認できなかったため、現在の円/GBランキングからは外しました。在庫が出た場合、24GBなら27B〜32B級の4bit GGUFを単一GPUへ載せる選択肢が増え、CUDAも使えます。ただしカード電力350W、推奨システム電源750Wの旧世代大型GPUで、価格だけでは判断できません。

  • 高負荷テスト済みか、画面ノイズやクラッシュがないか
  • ファン異音、ヒートシンクの汚れ、分解歴がないか
  • ケース内の長さ・厚さと補助電源が足りるか
  • 電源容量、発熱、騒音、電気代を許容できるか
  • 初期不良時の返品条件と保証期間が明記されているか

数千円のVRAM単価差より、保証の長い個体を優先した方が総コストを抑えられる場合があります。

32GBを新品で確保するならR9700

Radeon AI PRO R9700は32GB GDDR6を搭載し、8月23日の参考価格289,800円なら約9,056円/GBです。RTX 5090の約22,400円/GBより容量単価は低く、Linux・ROCmを中心に大きなモデルを載せたい人には有力です。公式仕様はTBP 300W、最小750W電源、12V-2x6電源端子です。

AMDの公式ガイドでは、R9700上のVRAM使用例としてDeepSeek-R1-Distill-Qwen-32BのQ6が27.8GB、Mistral Small 3.1 24BのQ8が26.6GBと掲載されています。32GBは単に数字が大きいだけでなく、24GBでは窮屈な高めの量子化を検討できる容量です。ただし使うOS、ROCm、PyTorchまたはllama.cppバックエンドの対応確認が前提です。

VRAM容量ごとに狙えるモデル

VRAM目安考え方
8GB7B〜8Bの4bit入門・検証用。長いcontextでは余裕が少ない
12GB8B〜14Bの4bit軽量モデル中心。14Bは条件を詰める
16GB14Bを余裕を持って運用、20B〜24Bの4bitを検討新品の現実的な主流帯
24GB27B〜32Bの4bit単一GPUローカルLLMの人気帯
32GB27B〜32Bの高めの量子化、長めのcontextKV cacheや実行領域の余裕を増やせる

表はGGUFをGPU中心で動かす場合の出発点です。4bit重みの理論下限は「パラメータ数 × 4 ÷ 8」で、14Bなら約7GB、32Bなら約16GBです。しかし実際には量子化メタデータ、KV cache、計算バッファ、モデル固有の構造が加わります。

32GBあっても70Bの4bitを完全に載せるには通常不足します。理論上の重みだけで約35GBになるためです。コンテキスト長を伸ばすほどKV cacheも増えるので、容量表は「入る保証」ではなく候補を絞る目安として使ってください。

円/GBだけで決めてはいけない理由

CUDAとROCmの導入コストが違う

同じ16GBでも、使いたいソフトがCUDA前提ならRadeonへ置き換えられません。AMDは公式のROCm 7.14互換性表でGPU、OS、ROCm版の組み合わせを確認します。R9700はWindows向けHIP SDKの対応表にもありますが、PyTorchやllama.cppまで同じ経路で動く保証ではありません。

VRAM帯域と演算性能は単価に出ない

円/GBは「モデルが収まるか」を比較する指標で、生成速度を表す指標ではありません。RTX 5080は16GBのため容量単価で不利でも、ゲームや画像生成、対応演算の速度まで含めると選ぶ理由があります。用途をローカルLLMだけに限定するか、PC全体の兼用性能を見るかで結論は変わります。

本体以外の費用がある

  • 推奨容量を満たす品質の良い電源ユニット
  • 大型GPUが入るケースと冷却ファン
  • モデルを保持するシステムRAMとSSD
  • 高負荷時の電気代と室温・騒音対策

特に中古RTX 3090はカード価格だけを見ると魅力的でも、電源やケースの交換が必要なら新品16GBとの差が縮まります。

紹介商品の購入先

GPU本体を決めた後に電源候補を確認

本文で説明した追加費用のうち、GPUとCPUの総負荷に合う電源だけを確認します。

購入前の5ステップ

  1. 実行したいモデル名、量子化、context長を決める
  2. GGUFなど実ファイルの容量を確認する
  3. KV cacheと実行バッファ用にVRAMの余裕を残す
  4. CUDA、ROCm、Vulkanの対応表を確認する
  5. GPU価格に電源・ケース・保証を加えた総額で比べる

購入後はllama.cppのGPUバックエンド比較を参考に、同じGGUFをllama-benchで測定します。VRAM不足時はllama.cpp主要パラメータ一覧で、GPU offload、context、KV cache設定を見直してください。

購入前に容量そのものを見積もる場合はローカルLLMに必要なVRAMの計算方法、Apple Siliconも候補に含める場合はMacのメモリ別・動かせるローカルLLM一覧を参照してください。

よくある質問

ローカルLLM用GPUは最低何GB必要ですか?

小型モデルの試用は8GBでも可能です。これから専用PCを組み、14B以上も試すなら16GBを実用的な出発点としておすすめします。

RTX 5060 Tiは8GB版と16GB版のどちらですか?

ローカルLLM目的なら16GB版です。8GB版は本体価格が低くても、載せられるモデルとcontextが先に制約されます。製品名だけでなく容量表記を確認してください。

RTX 3090中古とRTX 5060 Ti 16GB新品はどちらがよいですか?

24GBが必要で、消費電力・熱・中古リスクを管理できるならRTX 3090。16GBで足り、保証と扱いやすさを重視するならRTX 5060 Ti 16GBです。

RadeonはローカルLLMに使えますか?

使えます。ただしNVIDIAと同じ手順とは限りません。購入前に対象GPU、OS、利用ソフトがROCmまたはVulkanで対応しているかを公式表で確認してください。

まとめ

2026年8月23日の再監査では、扱いやすさ込みならRTX 5060 Ti 16GB、掲載候補内のVRAM単価ならRX 9060 XT 16GB、在庫を確保できる場合の24GB+CUDAなら中古RTX 3090、32GB新品ならR9700が比較の軸です。

64GB以上や100万円級の完成品を検討する場合は、Mac Studio・DGX Spark・RTX PRO高級AIマシン比較へ進んでください。

最安の円/GBは有効な入口ですが、最終的には「使いたいモデルが余裕を持って収まること」と「ソフトが安定して動くこと」が重要です。購入直前に価格と互換性表を再確認してください。

参照資料

表を拡大

左右にスワイプして読めます