axteam、Google Gemma 4のGGUF版モデル「gemma-4-E4B-it-GGUF」を公開
axteamは、Googleの新しいマルチモーダルモデル「gemma-4-E4B-it」をllama.cppやOllama、LM Studioで実行可能なGGUF形式に変換し、Hugging Faceにて公開しました。Q4_K_MやQ8_0、BF16などの量子化版が提供されており、チャットテンプレートも内蔵されています。
Googleの最新モデルであるGemma 4をローカル環境で直接試すことが可能になります。Q4_K_M版のファイルサイズは4.97GBで、最低8GBのシステムRAMと約7GBのVRAMを想定した動作が可能です。
何が公開された？
Hugging Face上の「axteam/gemma-4-E4B-it-GGUF」が更新されています。確認時点の指標は downloads=1,220、likes=3 です。
モデルの特徴
元モデルは google/gemma-4-E4B-it。用途タグは image-text-to-text。
量子化・ファイル構成
ファイル名から確認できた量子化方式は Q4_K_M, Q8_0, BF16。GGUFファイルは 3 件確認できました。
どんなPCなら使えそう？
確認できたGGUFのファイル容量は 5.0 GB〜14.0 GB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。
LM Studio / llama.cppで使える？
GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。
注意点
コンテキスト長をconfig/APIから確定できませんでした。
主な仕様
| モデルID | axteam/gemma-4-E4B-it-GGUF |
|---|---|
| 配布者 | axteam |
| 元モデル | google/gemma-4-E4B-it |
| ライセンス | apache-2.0 |
| アーキテクチャ | 情報不足 |
| コンテキスト長 | 情報不足 |
| 用途タグ | image-text-to-text |
| Downloads | 1,220 |
| Likes | 3 |
| 量子化 | Q4_K_M, Q8_0, BF16 |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | Q4_K_M (5.0 GB) |
|---|---|
| 品質重視 | Q8_0 (7.5 GB) |
| 省メモリ重視 | Q4_K_M (5.0 GB) |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 計算の基準となる量子化 | Q4_K_M |
|---|---|
| モデルファイル容量 | 4.97 GiB |
| 最低RAM目安 | 8.0 GiB |
| 推奨RAM目安 | 11.0 GiB |
| 全量GPUオフロード時のVRAM目安 | 7.0 GiB |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| llama.cpp | 明示あり | モデルカードまたはタグにllama.cppに関する記載があります。 |
| LM Studio | 明示あり | モデルカードにLM Studioに関する記載があります。 |
| Ollama | 明示あり | モデルカードにOllamaに関する記載があります。 |
| KoboldCpp | 互換候補 | GGUF系ランタイムですが、アーキテクチャへの対応状況を確認する必要があります。 |
| vLLM | 明示あり | モデルカードまたはタグ内に関連記載があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 情報不足 | コード特化を示す明確な記載を取得できませんでした。 |
| 推論・数学 | 情報不足 | 推論特化を示す明確な記載を取得できませんでした。 |
| 日本語 | 情報不足 | 日本語対応を直接裏付ける情報を取得できませんでした。 |
| ツール利用・エージェント | 情報不足 | ツール利用を裏付ける明確な情報を取得できませんでした。 |
| 画像理解・マルチモーダル | 高 | Vision/Multimodal系の記載があります。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| Q4_K_M | gemma-4-E4B-it-GGUF-Q4_K_M.gguf | 5.0 GB |
| Q8_0 | gemma-4-E4B-it-GGUF-Q8_0.gguf | 7.5 GB |
| BF16 | gemma-4-E4B-it-GGUF-BF16.gguf | 14.0 GB |
発表・更新の内容
model_idはaxteam/gemma-4-E4B-it-GGUFで、ライセンスはApache-2.0です。ベースモデルはgoogle/gemma-4-E4B-itであり、画像とテキストを処理するimage-text-to-textのパイプラインに対応しています。推奨量子化であるQ4_K_Mのほか、無量子化のBF16版（15.1GB）も選択できます。ローカルでの実行にあたっては、コンテキスト長やKVキャッシュ、GPUオフロード率によって必要なメモリ量が変動するため注意が必要です。
タグ
GGUFHugging Faceggufgemmagemma4llama.cppquantizedimage-text-to-textlicense:apache-2.0endpoints_compatible
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。