ローカルLLM向けGPUのVRAMコスパ比較【2026年7月】円/GBで選ぶ

ローカルLLM向けGPUをVRAM 1GBあたりの実売価格で比較。RTX 5060 Ti 16GB、RTX 3090 24GB、中古、新品Radeon 32GBの選び方を解説します。

ローカルLLM向けGPUのVRAMコスパ比較【2026年7月】円/GBで選ぶのイメージイラスト

先に結論

新品NVIDIAの本命はGeForce RTX 5060 Ti 16GBです。参考最安値99,980円、VRAM単価は約6,249円/GB。CUDAの扱いやすさを保ちながら16GBを確保できます。

VRAM単価だけならRadeon RX 9060 XT 16GBが約3,874円/GBで有利です。24GBが必要なら中古RTX 3090、32GBの新品ならRadeon AI PRO R9700が候補。ただしAMDはROCm対応環境、中古は状態・保証・電源まで確認して選びます。

価格調査日: 2026年7月18日
計算方法: 国内参考最安値 ÷ 公称VRAM容量。価格は在庫、送料、ポイント、販売店で変動します。RTX 3090は在庫切れを含む中古掲載例であり、相場保証ではありません。

VRAMコスパ比較表

GPUVRAM参考価格1GBあたりローカルLLMでの位置付け
Radeon RX 9060 XT16GB61,980円3,874円容量単価重視。ROCm環境を要確認
中古RTX 3090 掲載例24GB123,980円5,166円24GB+CUDA。状態と消費電力に注意
Radeon RX 907016GB84,980円5,311円AMDで速度との両立を狙う
GeForce RTX 5060 Ti16GB99,980円6,249円新品NVIDIAのバランス型
Radeon AI PRO R970032GB292,727円9,148円Linux・ROCmで32GBを確保
Radeon RX 9070 XT16GB165,800円10,363円VRAM単価より演算性能寄り
GeForce RTX 5070 Ti16GB167,979円10,499円速度も重視する16GB CUDA機
GeForce RTX 508016GB194,980円12,186円ゲーム・生成速度との兼用向け
GeForce RTX 509032GB716,800円22,400円容量単価より最高性能とCUDA

現行GeForceとゲーミングRadeonの価格はGPU Price Watchの2026年7月18日表示、R9700は価格.comの同日表示を使用しました。公称VRAMはNVIDIA公式比較表AMD公式発表などと照合しています。

用途別のおすすめ3案

迷ったら新品RTX 5060 Ti 16GB

NVIDIAの新品から選ぶなら、16GB版RTX 5060 Tiが最も説明しやすい基準機です。12GB以下より載せられるモデルとコンテキストの幅が広く、CUDA対応ツールの情報も探しやすいからです。

RTX 5060 8GBの参考価格は62,800円で、16GB版5060 Tiとの差は37,180円です。ローカルLLMを主目的に新調するなら、速度差よりも先にVRAMが2倍になる価値を検討した方が長く使えます。

24GB+CUDAなら中古RTX 3090

中古掲載例の123,980円で計算すると約5,166円/GBです。24GBなら27B〜32B級の4bit GGUFを単一GPUへ載せる選択肢が増え、CUDAも使えます。一方、掲載例は在庫切れ・保証1週間で、新品のようには扱えません。

  • 高負荷テスト済みか、画面ノイズやクラッシュがないか
  • ファン異音、ヒートシンクの汚れ、分解歴がないか
  • ケース内の長さ・厚さと補助電源が足りるか
  • 電源容量、発熱、騒音、電気代を許容できるか
  • 初期不良時の返品条件と保証期間が明記されているか

数千円のVRAM単価差より、保証の長い個体を優先した方が総コストを抑えられる場合があります。

32GBを新品で確保するならR9700

Radeon AI PRO R9700は32GB GDDR6を搭載し、参考価格292,727円なら約9,148円/GBです。RTX 5090の約22,400円/GBより容量単価は低く、Linux・ROCmを前提に大きなモデルを載せたい人には有力です。

AMDの公式ガイドでは、R9700上のVRAM使用例としてDeepSeek-R1-Distill-Qwen-32BのQ6が27.8GB、Mistral Small 3.1 24BのQ8が26.6GBと掲載されています。32GBは単に数字が大きいだけでなく、24GBでは窮屈な高めの量子化を検討できる容量です。ただし使うOS、ROCm、PyTorchまたはllama.cppバックエンドの対応確認が前提です。

VRAM容量ごとに狙えるモデル

VRAM目安考え方
8GB7B〜8Bの4bit入門・検証用。長いcontextでは余裕が少ない
12GB8B〜14Bの4bit軽量モデル中心。14Bは条件を詰める
16GB14Bを余裕を持って運用、20B〜24Bの4bitを検討新品の現実的な主流帯
24GB27B〜32Bの4bit単一GPUローカルLLMの人気帯
32GB27B〜32Bの高めの量子化、長めのcontextKV cacheや実行領域の余裕を増やせる

表はGGUFをGPU中心で動かす場合の出発点です。4bit重みの理論下限は「パラメータ数 × 4 ÷ 8」で、14Bなら約7GB、32Bなら約16GBです。しかし実際には量子化メタデータ、KV cache、計算バッファ、モデル固有の構造が加わります。

32GBあっても70Bの4bitを完全に載せるには通常不足します。理論上の重みだけで約35GBになるためです。コンテキスト長を伸ばすほどKV cacheも増えるので、容量表は「入る保証」ではなく候補を絞る目安として使ってください。

円/GBだけで決めてはいけない理由

CUDAとROCmの導入コストが違う

同じ16GBでも、使いたいソフトがCUDA前提ならRadeonへ置き換えられません。AMDは公式のROCm on Radeon互換性表でGPU、OS、ROCm版の組み合わせを確認します。llama.cppではHIP/ROCmやVulkanも候補ですが、モデルと量子化を固定して動作と速度を測る必要があります。

VRAM帯域と演算性能は単価に出ない

円/GBは「モデルが収まるか」を比較する指標で、生成速度を表す指標ではありません。RTX 5080は16GBのため容量単価で不利でも、ゲームや画像生成、対応演算の速度まで含めると選ぶ理由があります。用途をローカルLLMだけに限定するか、PC全体の兼用性能を見るかで結論は変わります。

本体以外の費用がある

  • 推奨容量を満たす品質の良い電源ユニット
  • 大型GPUが入るケースと冷却ファン
  • モデルを保持するシステムRAMとSSD
  • 高負荷時の電気代と室温・騒音対策

特に中古RTX 3090はカード価格だけを見ると魅力的でも、電源やケースの交換が必要なら新品16GBとの差が縮まります。

購入前の5ステップ

  1. 実行したいモデル名、量子化、context長を決める
  2. GGUFなど実ファイルの容量を確認する
  3. KV cacheと実行バッファ用にVRAMの余裕を残す
  4. CUDA、ROCm、Vulkanの対応表を確認する
  5. GPU価格に電源・ケース・保証を加えた総額で比べる

購入後はllama.cppのGPUバックエンド比較を参考に、同じGGUFをllama-benchで測定します。VRAM不足時はllama.cpp主要パラメータ一覧で、GPU offload、context、KV cache設定を見直してください。

よくある質問

ローカルLLM用GPUは最低何GB必要ですか?

小型モデルの試用は8GBでも可能です。これから専用PCを組み、14B以上も試すなら16GBを実用的な出発点としておすすめします。

RTX 5060 Tiは8GB版と16GB版のどちらですか?

ローカルLLM目的なら16GB版です。8GB版は本体価格が低くても、載せられるモデルとcontextが先に制約されます。製品名だけでなく容量表記を確認してください。

RTX 3090中古とRTX 5060 Ti 16GB新品はどちらがよいですか?

24GBが必要で、消費電力・熱・中古リスクを管理できるならRTX 3090。16GBで足り、保証と扱いやすさを重視するならRTX 5060 Ti 16GBです。

RadeonはローカルLLMに使えますか?

使えます。ただしNVIDIAと同じ手順とは限りません。購入前に対象GPU、OS、利用ソフトがROCmまたはVulkanで対応しているかを公式表で確認してください。

まとめ

2026年7月時点では、扱いやすさ込みならRTX 5060 Ti 16GB、VRAM単価ならRX 9060 XT 16GB、24GB+CUDAなら状態の良い中古RTX 3090、32GB新品ならR9700が比較の軸です。

64GB以上や100万円級の完成品を検討する場合は、Mac Studio・DGX Spark・RTX PRO高級AIマシン比較へ進んでください。

最安の円/GBは有効な入口ですが、最終的には「使いたいモデルが余裕を持って収まること」と「ソフトが安定して動くこと」が重要です。購入直前に価格と互換性表を再確認してください。

参照資料