Metaの30Bマルチモーダルモデル「Muse-Glimmer-30B」のGGUF版が公開
Metaのマルチモーダルモデル「Muse-Glimmer-30B」に対応するGGUF形式の量子化モデルが公開されました。F16から各種IQ量子化、Q4_K_Mなどの幅広い量子化バリエーションが提供され、ローカル環境での実行が可能になっています。
Metaのマルチモーダル大規模言語モデルを手元で実行できるようになり、画像理解や推論、コード生成などのタスクをローカル環境で検証することが容易になります。
何が公開された？
Hugging Face上の「NANI-Nithin/Muse-Glimmer-30B-GGUF」が更新されています。確認時点の指標は downloads=4,927、likes=4 です。
モデルの特徴
元モデルは meta-models/Muse-Glimmer-30B。用途タグは image-text-to-text。
量子化・ファイル構成
ファイル名から判別できた量子化は F16, Q1_0, IQ1_S, Q2_0, Q2_K_S, Q2_K, Q3_K_S, IQ3_M, Q3_K_M, Q3_K_L, IQ4_XS, Q4_0, Q4_K_S, IQ4_NL, Q4_K_M, Q4_1, Q5_0, Q5_K_S, Q5_K_M, Q5_1, Q6_K, Q8_0, BF16。GGUFファイルは 24 件確認できました。
どんなPCなら使えそう？
確認できたGGUFのファイル容量は 3.6 GB〜51.9 GB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。
LM Studio / llama.cppで使える？
GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。
注意点
コンテキスト長をconfig/APIから確定できませんでした。
主な仕様
| モデルID | NANI-Nithin/Muse-Glimmer-30B-GGUF |
|---|---|
| 配布者 | NANI-Nithin |
| 元モデル | meta-models/Muse-Glimmer-30B |
| ライセンス | apache-2.0 |
| アーキテクチャ | 情報不足 |
| コンテキスト長 | 情報不足 |
| 用途タグ | image-text-to-text |
| Downloads | 4,927 |
| Likes | 4 |
| 量子化 | F16, Q1_0, IQ1_S, Q2_0, Q2_K_S, Q2_K, Q3_K_S, IQ3_M, Q3_K_M, Q3_K_L, IQ4_XS, Q4_0, Q4_K_S, IQ4_NL, Q4_K_M, Q4_1, Q5_0, Q5_K_S, Q5_K_M, Q5_1 |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | Q4_K_M (15.8 GB) |
|---|---|
| 品質重視 | Q5_K_M (18.5 GB) |
| 省メモリ重視 | IQ3_M (11.9 GB) |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 基準量子化 | Q4_K_M |
|---|---|
| モデルファイル容量 | 15.77 GiB |
| 最低RAM目安 | 20.5 GiB |
| 推奨RAM目安 | 25.5 GiB |
| フルGPUオフロード時VRAM目安 | 19.5 GiB |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| llama.cpp | 明示あり | モデルカードまたはタグ内にllama.cpp関連記載があります。 |
| LM Studio | 明示あり | モデルカード内にLM Studio関連記載があります。 |
| Ollama | インポート候補 | GGUFを取り込める場合がありますが、モデルアーキテクチャとテンプレートの対応確認が必要です。 |
| KoboldCpp | 明示あり | モデルカード内にKoboldCpp関連記載があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 高 | コード生成・Coder系の記載があります。 |
| 推論・数学 | 高 | Reasoning/Thinking/Math系の記載があります。 |
| 日本語 | 中 | 多言語対応の記載はありますが、日本語品質は個別確認が必要です。 |
| ツール利用・エージェント | 高 | Tool/Function CallingまたはAgent系の記載があります。 |
| 画像理解・マルチモーダル | 高 | Vision/Multimodal系の記載があります。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| F16 | mmproj-Muse-Glimmer-30B-F16.gguf | 3.6 GB |
| Q1_0 | Muse-Glimmer-30B-Q1_0.gguf | 4.5 GB |
| IQ1_S | Muse-Glimmer-30B-IQ1_S.gguf | 6.1 GB |
| Q2_0 | Muse-Glimmer-30B-Q2_0.gguf | 8.3 GB |
| Q2_K_S | Muse-Glimmer-30B-Q2_K_S.gguf | 9.3 GB |
| Q2_K | Muse-Glimmer-30B-Q2_K.gguf | 10.0 GB |
| Q3_K_S | Muse-Glimmer-30B-Q3_K_S.gguf | 11.7 GB |
| IQ3_M | Muse-Glimmer-30B-IQ3_M.gguf | 11.9 GB |
| Q3_K_M | Muse-Glimmer-30B-Q3_K_M.gguf | 12.7 GB |
| Q3_K_L | Muse-Glimmer-30B-Q3_K_L.gguf | 13.7 GB |
| IQ4_XS | Muse-Glimmer-30B-IQ4_XS.gguf | 14.3 GB |
| Q4_0 | Muse-Glimmer-30B-Q4_0.gguf | 14.9 GB |
| Q4_K_S | Muse-Glimmer-30B-Q4_K_S.gguf | 15.0 GB |
| IQ4_NL | Muse-Glimmer-30B-IQ4_NL.gguf | 15.0 GB |
| Q4_K_M | Muse-Glimmer-30B-Q4_K_M.gguf | 15.8 GB |
| Q4_1 | Muse-Glimmer-30B-Q4_1.gguf | 16.5 GB |
| Q5_0 | Muse-Glimmer-30B-Q5_0.gguf | 18.0 GB |
| Q5_K_S | Muse-Glimmer-30B-Q5_K_S.gguf | 18.0 GB |
| Q5_K_M | Muse-Glimmer-30B-Q5_K_M.gguf | 18.5 GB |
| Q5_1 | Muse-Glimmer-30B-Q5_1.gguf | 19.6 GB |
| Q6_K | Muse-Glimmer-30B-Q6_K.gguf | 21.3 GB |
| Q8_0 | Muse-Glimmer-30B-Q8_0.gguf | 27.6 GB |
| F16 | Muse-Glimmer-30B-F16.gguf | 51.9 GB |
| BF16 | Muse-Glimmer-30B-BF16.gguf | 51.9 GB |
発表・更新の内容
ライセンスはApache-2.0を採用しており、商用利用や改変を含めて柔軟な活用が可能です。推奨量子化であるQ4_K_Mでは、モデルファイルサイズが約15.77 GiBとなっており、動作には最低20.5 GiB、推奨25.5 GiBのシステムRAMが必要とされています。マルチモーダルや長コンテキスト、エージェント用途を想定したモデルのローカル運用において有用な選択肢となります。
タグ
GGUFHugging Facellama.cppggufmuse-glimmermuse-glimmer-30bllama-cppmultimodalvision-language-modelagentic-ai
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。