ローカルLLM トラブルシューティング

ローカルLLMは、モデル・量子化・GPU・ランタイム・コンテキスト長の組み合わせで動作が大きく変わります。症状ごとに、まず確認する場所をまとめます。

モデルがロードできない / OOM / メモリ不足

最も多い原因は、モデル＋KVキャッシュ＋計算バッファがメモリに収まっていないことです。

1. Q5/Q8ならQ4など、より軽い量子化を試す。
2. コンテキスト長を128Kなどから8K・4Kへ下げる。
3. 他のモデルをアンロードし、VRAMを使うゲームや画像生成ソフトを閉じる。
4. GPU offloadを減らし、一部をRAM/CPU側へ逃がす。
5. それでも無理なら一段小さいモデルへ変更する。

LM Studio CLIでは lms load --estimate-only <model> でロード前にメモリ見積もりができます。見積もりはコンテキスト長やGPU offloadなども考慮します。

生成がものすごく遅い

対応モデル・ランタイムではFlash Attentionが速度・メモリ使用量を改善する場合があります。

GPUを使っていないように見える

1. モデルロード設定のGPU offloadが0/offになっていないか確認。
2. NVIDIAなら nvidia-smi でVRAM使用量を確認。
3. LM Studioのランタイムが現在のGPUへ対応しているか確認。
4. GPUドライバを更新。
5. 非常に小さいモデルではGPU使用率が目立たない場合もあるため、VRAM使用量も見る。

回答が変 / 同じ文を繰り返す / 意味不明

原因は必ずしも「モデル性能が低い」だけではありません。

• Baseモデルを普通のチャット用途で使っていないか確認。
• モデルに合わないchat templateを使っていないか確認。
• コンテキスト上限を超えていないか確認。
• Temperatureなど生成設定を極端な値から標準付近へ戻す。
• 非常に強い量子化を使っているならQ4/Q5などを試す。
• ランタイムが新しいモデルアーキテクチャへ対応しているか確認。

モデルが一覧に出ない / 読み込めない

• ファイル形式が現在のランタイムに対応しているか確認。
• GGUF、MLX、safetensorsを取り違えていないか確認。
• 新しいモデルの場合、LM Studio / llama.cppランタイムを更新。
• 手動配置した場合はモデルディレクトリやimport方法を確認。
• ダウンロードが途中で壊れていないか再確認。

LM Studio自体が起動しない

公式要件を確認します。Windows x64ではAVX2対応CPUが必要です。LM StudioはRAM 16GB以上、専用VRAM 4GB以上を推奨しています。macOS版はApple Siliconが対象です。

APIにつながらない

LM StudioのDeveloper画面でローカルサーバーが起動しているか確認します。CLIなら lms server start です。標準例では http://localhost:1234 を使います。

• サーバーが起動しているか。
• ポート番号を変更していないか。
• 呼び出し側が /v1 を必要としているか。
• モデル名/identifierが一致しているか。
• 別PCから接続する場合、localhostではなくネットワーク設定が必要。

注意: サーバーをLANへ公開するときは認証やbind設定に注意してください。LM Studio公式もlocalhost以外へbindする場合は認証を推奨しています。

ダウンロードが失敗する

• 空きディスク容量を確認。
• ネットワークを確認し、再試行。
• 保存先フォルダへの書き込み権限を確認。
• 同じモデルを別の量子化で試している場合、古い大容量ファイルが残っていないか確認。

原因が分からないときの記録

人に質問するときは、次の情報があると原因を特定しやすくなります。

公式情報