自分のPCでどのモデルが動く？
「このモデル、私のPCで動くの？」を判断するための初心者向けガイドです。まずはGPUのVRAM容量を確認し、次にモデルの量子化サイズ、RAM、コンテキスト長を見ていけば、おおよその判断ができます。
NVIDIAなどの専用GPUを使う場合、まずVRAM容量を見るのが一番簡単です。
ただし「モデルファイルがVRAMより小さい＝必ず全部GPUに入る」という意味ではありません。モデル本体以外にもKVキャッシュや計算用バッファが必要なので、少し余裕を残すのが安全です。
まず、自分のVRAMを確認しよう
Windows
タスク マネージャー → パフォーマンス → GPU → 専用GPUメモリを確認します。たとえば「専用GPUメモリ 16.0 GB」と表示されれば、VRAM 16GB級です。
NVIDIA GPU
コマンドプロンプトやPowerShellで nvidia-smi を実行すると、GPU名とVRAM容量を確認できます。
Apple Silicon
MacのMシリーズはCPUとGPUが統合メモリを共有します。32GB搭載Macなら「GPU専用32GB」ではなく、macOSや他のアプリも含めて32GBを共有するため、モデルには全容量を使えません。
VRAM別：ざっくり何が動く？
以下はGGUFのQ4前後を中心にした実用目安です。モデルの構造、画像入力の有無、コンテキスト長、ランタイムによって必要量は変わります。
VRAM 8GB
入門向け7B〜8B級のQ4が扱いやすいゾーンです。12B級も強めの量子化や一部RAMへのオフロードで動かせる場合がありますが、速度やコンテキスト長に妥協が必要です。
おすすめ方針：小型モデルのQ4/Q5、コンテキスト4K〜8K程度から。
VRAM 12GB
かなり遊べる10B〜14B級のQ4が現実的です。小型モデルならQ5/Q8も選びやすくなります。20B級はQ4でも全GPU搭載は厳しいことが多く、RAM併用向けです。
おすすめ方針：12B前後を中心に、品質重視ならQ5も検討。
VRAM 16GB
人気の実用帯12B〜20B級が強いゾーンです。GoogleはGemma 4 12Bを16GB VRAM/統合メモリでローカル実行できるサイズとして案内しています。OpenAIのgpt-oss-20bも16GBメモリでの動作を公式に想定しています。
Qwen3.8 27BのQ4は約17〜19GB級なので、16GB VRAMへ完全に載せるより、RAMへの一部オフロードを使う構成が現実的です。
VRAM 24GB
27B〜32B級が本命20B〜32B級のQ4がかなり現実的になります。Qwen3.8 27BのQ4系はおおむね16〜19GB台のGGUFがあり、中程度のコンテキストを含めても24GB級GPUで扱いやすいサイズです。
ただし30B級MoEでも、量子化方式によって25GBを超えることがあるため、「30Bなら必ず24GBに入る」とは限りません。
VRAM 32GB
大型ローカルAI30B級を高めの量子化で扱いやすいゾーンです。Nemotron 3.5 Lightning 30B A3Bには20GB台前半〜半ばの4bit GGUFがあり、RTX 5090級の32GB GPUは代表的なローカル実行環境の一つです。
27B級ならQ5/Q6も視野に入り、コンテキスト長にも余裕を持たせやすくなります。
VRAM 48GB
ワークステーション級40B〜50B級Q4や、30B級の高品質量子化が扱いやすくなります。70B級Q4も構成次第で射程に入りますが、長いコンテキストを使うと余裕がなくなりやすいため、64GB級や複数GPUの方が安心です。
VRAM 64GB以上
70B級70B級Q4を現実的に扱える領域です。大きなコンテキスト、Q5以上、画像モデルなどを使うほど追加メモリが必要になります。
80GB級
データセンター級単一80GB GPUでは、OpenAIがgpt-oss-120bを動かせる構成として公式に案内しています。一般家庭向けというより、H100/A100級や大型ワークステーションの世界です。
おすすめモデルの具体例
Gemma 4 12B
16GB級Googleが16GB VRAMまたは統合メモリでのローカル利用を明示。画像・音声も扱えるため、16GB級PCの分かりやすい基準モデルです。
gpt-oss-20b
16GB級OpenAIが16GBメモリで動作可能と案内。ネイティブMXFP4量子化で、推論やツール利用を重視するモデルです。
Qwen3.8 27B Q4
24GB推奨Q4系GGUFは約16〜19GB台。16GBでもRAM併用なら動かせますが、24GB級GPUの方が余裕があります。
Nemotron 3.5 Lightning
32GB級30B A3BのMoEモデル。4bit GGUFは20GB台のものがあり、RTX 5090級はNVIDIAが紹介するローカル環境の一つです。
gpt-oss-120b
80GB級OpenAI公式では単一80GB GPUでの実行を想定。家庭用GPUを大きく超えるサイズです。
量子化はどれを選べばいい？
Q4
迷ったらまずここ。容量と品質のバランスが良く、ローカルLLMで最も使いやすい選択肢の一つです。
Q5 / Q6
VRAM/RAMに余裕があるなら候補。Q4より大きくなりますが、品質をなるべく維持したい場合に向きます。
Q8
かなり大きい代わりに高品質。VRAMが十分あるモデルや、品質優先の用途向けです。
Q2 / Q3
どうしてもメモリに収めたいときの選択肢。サイズは減りますが、品質低下が目立ちやすいため、最初の選択にはあまりおすすめしません。
なぜ「モデルファイルのサイズ」だけでは判断できない？
推論時のメモリには大きく分けて、モデルの重み、会話履歴を保持するKVキャッシュ、一時的な計算バッファなどがあります。llama.cppでも、モデル本体とは別にKVキャッシュとcompute bufferが確保されます。
そのため、たとえば18GBのGGUFを24GB GPUへ載せる場合、「6GB余るから必ず大丈夫」とは限りません。画像入力や長いコンテキストを使う場合は追加メモリが増えます。
コンテキスト長を増やすとメモリも増える
コンテキスト長は、AIが一度に覚えておける文章量のようなものです。4K、8K、32K、128Kなどがあります。
長くするほどKVキャッシュが大きくなり、VRAM/RAMを多く使います。モデルがギリギリしか入らないときは、まずコンテキスト長を短くするのが定番の対処法です。
VRAMに入りきらなくても動かせる？
はい。 llama.cppやLM Studioでは、モデルの一部をGPU、一部をCPU/RAMで処理する「GPUオフロード」が使えます。
たとえば16GB GPUで18GB級のモデルを使うこと自体は可能です。ただし全てをGPUに載せた場合より遅くなるため、快適性はRAM速度やCPU性能にも左右されます。
RAMはどのくらい必要？
RAM 16GB
小型モデル中心。OSやブラウザも使うため余裕は少なめです。
RAM 32GB
ローカルLLM入門〜16GB GPU構成との組み合わせで扱いやすい容量。
RAM 64GB
24〜32GB GPUで大型モデルを部分オフロードしたり、複数モデルを扱う場合に便利。
RAM 128GB以上
GPUに収まらない大型モデルやCPU推論、巨大GGUFを試す上級者向け。
LM Studioならロード前に見積もれる
LM StudioのCLIでは、モデルを実際にロードせずに必要メモリを推定できます。
lms load --estimate-only <model_key>コンテキスト長やGPUオフロード設定も含めて推定できるので、「このモデルをダウンロードしたけど入るか不安」という場合に便利です。
初心者向けの選び方
↓
② そのVRAM帯より少し小さいQ4モデルを選ぶ
↓
③ コンテキストは4K〜8K程度から始める
↓
④ 余裕があればQ5や長いコンテキストへ上げる
早見：最初のおすすめ
8GB → 7B/8B Q4
12GB → 10B〜14B Q4
16GB → 12B〜20B級。Gemma 4 12B / gpt-oss-20b
24GB → 27B〜32B Q4。Qwen3.8 27Bが候補
32GB → 30B級をより余裕を持って。Nemotron 3.5 Lightningなど
64GB+ → 70B級Q4
80GB → gpt-oss-120b級
公式・参考情報
OpenAI — Introducing gpt-oss
LM Studio — lms load / memory estimation
ggml-org — Qwen3.8-27B GGUF
NVIDIA — Nemotron 3.5 Lightning