主要ローカルLLMモデル

ローカルLLMで名前を見かけることが多い主要モデルを、特徴と「どのくらいローカル向きか」という観点から紹介します。ここではファミリー全体ではなく、現在注目度の高い代表モデルを中心に扱います。

比較早見表

Gemma 4

Gemma 4はGoogleのオープンモデルファミリーです。代表的なGemma 4 12Bはdense型のマルチモーダルモデルで、画像だけでなく音声入力にも対応します。Googleは16GBのVRAMまたは統合メモリを持つノートPC級でもローカル実行できるサイズとして紹介しています。

「巨大モデルは難しいけれど、画像・音声・エージェント的な機能も試したい」という人に特に分かりやすい候補です。

Qwen3.8

Qwen3.8はQwenチームの現行主要ファミリーです。27B版は画像とテキストを扱うモデルとして公開され、Apache 2.0ライセンスです。Hugging Faceでは公式27Bモデルに加えて、多数のGGUFや低精度量子化版が作られており、ローカルLLM界隈で非常に使いやすいモデルの一つです。

文章生成、創作、コード、画像理解などを1つのモデルで幅広く試したい人に向いています。

gpt-oss

gpt-oss-20b / 120bはOpenAIのオープンウェイト推論モデルです。20bは21B総パラメータ・約3.6B activeで、公式に16GBメモリでのローカル利用を想定しています。120bは117B総パラメータ・約5.1B activeで、単一80GB GPUを想定する上位版です。

テキスト専用ですが、推論、ツール利用、エージェント用途を重視しており、llama.cpp、Ollama、LM Studioなど幅広いローカル環境に対応しています。

NVIDIA Nemotron 3.5 Lightning

Nemotron 3.5 Lightning 30B A3Bは、30B総パラメータのうち約3Bを動かすMoE系モデルです。長時間動き続けるエージェントや、特定作業を高速にこなすサブエージェントを強く意識しています。

NVIDIAはGGUF Q4_K_MならRTX 5090上でllama.cppを使った単一GPU実行を案内しており、最新の高性能PCで試しやすい大型モデルの一つです。

Llama 4

Llama 4 Scout / MaverickはMetaのネイティブマルチモーダルMoEモデルです。Scoutは109B総パラメータ・17B activeで最大10Mコンテキスト、Maverickは約400B総パラメータ・17B activeです。

ローカルLLMとしてはかなり大型で、一般的な16〜24GB GPUよりもハイエンド構成向けです。ScoutはMeta公式ではInt4で単一H100に収まるとされています。

Mistral Small 4

Mistral Small 4は、会話、推論、エージェント型コーディング、画像理解を一つにまとめた119B総パラメータ・約6B activeのMoEモデルです。256Kコンテキストを持ち、Apache 2.0で公開されています。

名前はSmallですが、公式の最小構成は複数のH100/H200級GPUで、家庭用PCから見るとかなり大型です。

DeepSeek V4

DeepSeek V4にはProとFlashがあり、Flashは284B総パラメータ・13B active、Proは1.6T総パラメータ・49B activeと非常に巨大です。1Mコンテキストを標準とし、エージェントやコーディング能力を重視しています。

オープンウェイトではありますが、家庭用の単一GPUで気軽に動かすモデルというより、大容量RAM・複数GPU・高度な量子化を使う上級者向けです。

MiniMax M2.1

MiniMax M2.1はコーディング、ツール利用、指示追従、長い手順をこなすエージェント用途を強く意識した229B級モデルです。重みが公開され、SGLang、vLLM、Transformers、KTransformersなどでのローカル配備ガイドも用意されています。

量子化版も存在しますが、モデル自体が非常に大きいため、主に高性能ワークステーション向けです。

Kimi K2.5

Kimi K2.5はMoonshot AIのネイティブマルチモーダル・エージェントモデルです。1T総パラメータ・32B activeという巨大MoE構成で、256Kコンテキスト、画像理解、コーディング、ツール利用を統合しています。

ネイティブINT4量子化を採用していますが、それでも非常に大規模なため、ローカルでは上級者・サーバー環境向けです。

どれを選べばいい？