主要ローカルLLMモデル比較
「結局どれを選べばいい？」を考えるための比較ページです。単純なベンチマーク順位ではなく、ローカルでの扱いやすさ、得意分野、モデル規模、マルチモーダル対応を中心に整理します。
これは各社の公式評価ではなく、モデル規模、公式のハードウェア案内、一般的な量子化サイズなどからLocal LLM Wikiが付けた実用目安です。実際に動くかどうかは量子化、VRAM/RAM、コンテキスト長、ランタイムで変わります。
主要モデル比較表
| モデル | 開発元 | 規模 | 入力 | 得意分野 | ローカル向き |
|---|---|---|---|---|---|
| Gemma 4 12B | 12B Dense | テキスト・画像・音声 | 汎用、マルチモーダル、ローカルAI | ★★★★★ | |
| Qwen3.8 27B | Qwen | 27B | テキスト・画像 | 汎用、創作、コード、画像理解 | ★★★★☆ |
| gpt-oss-20b | OpenAI | 21B total / 3.6B active | テキスト | 推論、ツール利用、エージェント | ★★★★★ |
| Nemotron 3.5 Lightning | NVIDIA | 30B total / 3B active | テキスト中心 | 高速エージェント、反復的な専門タスク | ★★★★☆ |
| Llama 4 Scout | Meta | 109B total / 17B active | テキスト・画像 | 長文脈、画像理解、汎用 | ★★☆☆☆ |
| Mistral Small 4 | Mistral AI | 119B total / 約6.5B active | テキスト・画像 | 会話、推論、コード、画像 | ★★☆☆☆ |
| DeepSeek V4-Flash | DeepSeek | 284B total / 13B active | テキスト | 推論、コード、エージェント、長文脈 | ★☆☆☆☆ |
| MiniMax M2.1 | MiniMax | 229B | テキスト | コーディング、ツール利用、長時間エージェント | ★☆☆☆☆ |
| Kimi K2.5 | Moonshot AI | 1T total / 32B active | テキスト・画像 | 画像理解、コード、エージェント、Thinking | ★☆☆☆☆ |
★が多いほど「一般的な個人PCで量子化して試しやすい」という意味です。モデル性能の順位ではありません。
目的別に選ぶなら
まずローカルLLMを試したい
Gemma 4 12B。Googleが16GB VRAMまたは統合メモリでのローカル利用を案内しており、サイズと機能のバランスが分かりやすい候補です。
幅広く何でもやりたい
Qwen3.8 27B。文章、創作、コード、画像理解まで幅広く、量子化版も見つけやすいモデルです。
推論・ツール利用を重視
gpt-oss-20b。21B total / 3.6B activeで、OpenAIは16GBメモリでのローカル利用を想定しています。
RTX 5090級で高速エージェント
Nemotron 3.5 Lightning。30B total / 3B activeで、高頻度の専門タスクを高速に処理するエージェント用途を重視しています。
超長文・巨大モデルを試したい
Llama 4 ScoutやDeepSeek V4。非常に長いコンテキストや大規模MoEを扱えますが、個人PCでは難易度が一気に上がります。
画像も使う巨大エージェント
Kimi K2.5。1T total / 32B activeのネイティブマルチモーダルMoEで、画像理解とエージェント機能を統合しています。
モデルごとの短評
Gemma 4 12B
12B Denseの中型モデルで、画像・音声を扱えるのが大きな特徴です。Googleは16GB VRAMまたは統合メモリのローカルPCを明確に意識しており、「家庭用PCでマルチモーダル」を試したい人に向いています。
Qwen3.8 27B
27B級で、テキストと画像を扱います。Apache 2.0で公開され、Hugging FaceではGGUFなどコミュニティ量子化も豊富です。16GB VRAMではRAM併用になりやすく、24GB級から扱いやすくなります。
gpt-oss-20b
OpenAIのオープンウェイト推論モデル。21B total / 3.6B active、128Kコンテキストで、Apache 2.0です。OpenAIは16GBメモリで動作可能なローカル・オンデバイス用途を公式に想定しています。
Nemotron 3.5 Lightning
NVIDIAの30B MoE・3B activeモデル。長時間稼働するAIエージェントの中で、ツール呼び出しや結果処理など大量の専門タスクを高速にこなす用途へ最適化されています。
Llama 4 Scout
109B total / 17B activeのマルチモーダルMoE。MetaはInt4で単一H100へ収まると案内しています。10Mトークン級の長大なコンテキストが大きな特徴ですが、家庭用GPUではかなり大型です。
Mistral Small 4
119B total / 約6.5B active。会話、推論、コーディング、画像理解を1モデルへ統合し、256Kコンテキストを持ちます。Mistralは24GB VRAM GPUでも4bit・32Kコンテキストならオフライン利用例を案内していますが、CPUオフロード前提を含む上級者向けです。
DeepSeek V4-Flash
284B total / 13B active。1Mコンテキスト、推論、エージェント、コードを重視した巨大モデルです。重みは公開されていますが、家庭用単一GPUで気軽に扱うサイズではありません。
MiniMax M2.1
229B級で、コーディング、ツール利用、指示追従、長時間の計画実行を強く意識しています。重みは公開されていますが、ローカルでは大容量RAMや複数GPUを使う上級構成向けです。
Kimi K2.5
1T total / 32B active、256Kコンテキストの巨大マルチモーダルMoEです。ネイティブINT4量子化を採用し、画像理解、コーディング、ツール利用、Thinkingモードを統合しています。
迷ったときの順番
↓
② 「自分のPCでどのモデルが動く？」でサイズ帯を決める
↓
③ この比較ページで用途に合うモデルを選ぶ
↓
④ 最初はQ4前後の量子化から試す
関連ページ
自分のPCでどのモデルが動く？ · 主要モデルの詳しい説明 · 用語集