Dirk-Qwen3.8-27B-GGUFの公開
Qwen3.8-27BをベースにしたGGUFフォーマットの量子化モデル「Dirk-Qwen3.8-27B-GGUF」が公開されました。多様な量子化オプションを取り揃え、Hugging Face上で多くのダウンロード数を集めています。
ローカル環境でQwen3.8-27B系列の高精度な推論やエージェント開発を行う際の選択肢を広げます。
何が公開された？
Hugging Face上の「peculiar-ragdoll/Dirk-Qwen3.8-27B-GGUF」が更新されています。確認時点の指標は downloads=41,121、likes=143 です。
モデルの特徴
元モデルは Qwen/Qwen3.8-27B。用途タグは image-text-to-text。
量子化・ファイル構成
ファイル名から判別できた量子化は F16, IQ2_XS, IQ2_S, Q2_K_XL, IQ3_XXS, IQ3_S, Q3_K_XL, IQ4_XS, Q4_K_S, Q4_K_XL, Q5_K_XL, Q6_K, Q6_K_XL, Q8_K_L, Q8_K_XL。GGUFファイルは 15 件確認できました。
どんなPCなら使えそう？
確認できたGGUFのファイル容量は 884.6 MB〜29.3 GB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。
LM Studio / llama.cppで使える？
GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。
注意点
コンテキスト長をconfig/APIから確定できませんでした。
主な仕様
| モデルID | peculiar-ragdoll/Dirk-Qwen3.8-27B-GGUF |
|---|---|
| 配布者 | peculiar-ragdoll |
| 元モデル | Qwen/Qwen3.8-27B |
| ライセンス | apache-2.0 |
| アーキテクチャ | 情報不足 |
| コンテキスト長 | 情報不足 |
| 用途タグ | image-text-to-text |
| Downloads | 41,121 |
| Likes | 143 |
| 量子化 | F16, IQ2_XS, IQ2_S, Q2_K_XL, IQ3_XXS, IQ3_S, Q3_K_XL, IQ4_XS, Q4_K_S, Q4_K_XL, Q5_K_XL, Q6_K, Q6_K_XL, Q8_K_L, Q8_K_XL |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | Q4_K_S (14.3 GB) |
|---|---|
| 品質重視 | Q6_K (20.5 GB) |
| 省メモリ重視 | IQ4_XS (13.3 GB) |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 基準量子化 | Q4_K_S |
|---|---|
| モデルファイル容量 | 14.3 GiB |
| 最低RAM目安 | 18.5 GiB |
| 推奨RAM目安 | 23.5 GiB |
| フルGPUオフロード時VRAM目安 | 17.5 GiB |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| llama.cpp | 明示あり | モデルカードまたはタグ内にllama.cpp関連記載があります。 |
| LM Studio | 明示あり | モデルカード内にLM Studio関連記載があります。 |
| Ollama | インポート候補 | GGUFを取り込める場合がありますが、モデルアーキテクチャとテンプレートの対応確認が必要です。 |
| KoboldCpp | 互換候補 | GGUF系ランタイムですが、アーキテクチャ対応状況の確認が必要です。 |
| MLX | 明示あり | モデルカードまたはタグ内に関連記載があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 高 | コード生成・Coder系の記載があります。 |
| 推論・数学 | 高 | Reasoning/Thinking/Math系の記載があります。 |
| 日本語 | 情報不足 | 日本語対応を直接裏付ける情報を取得できませんでした。 |
| ツール利用・エージェント | 高 | Tool/Function CallingまたはAgent系の記載があります。 |
| 画像理解・マルチモーダル | 高 | Vision/Multimodal系の記載があります。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| F16 | mmproj-F16.gguf | 884.6 MB |
| IQ2_XS | Dirk-Qwen3.8-27B-GSQ-RCO-IQ2_XS.gguf | 8.2 GB |
| IQ2_S | Dirk-Qwen3.8-27B-GSQ-RCO-IQ2_S.gguf | 8.9 GB |
| Q2_K_XL | Dirk-Qwen3.8-27B-UD-Q2_K_XL.gguf | 9.2 GB |
| IQ3_XXS | Dirk-Qwen3.8-27B-GSQ-RCO-IQ3_XXS.gguf | 9.7 GB |
| IQ3_S | Dirk-Qwen3.8-27B-GSQ-RCO-IQ3_S.gguf | 11.3 GB |
| Q3_K_XL | Dirk-Qwen3.8-27B-UD-Q3_K_XL.gguf | 12.2 GB |
| IQ4_XS | Dirk-Qwen3.8-27B-UD-IQ4_XS.gguf | 13.3 GB |
| Q4_K_S | Dirk-Qwen3.8-27B-UD-Q4_K_S.gguf | 14.3 GB |
| Q4_K_XL | Dirk-Qwen3.8-27B-UD-Q4_K_XL.gguf | 16.4 GB |
| Q5_K_XL | Dirk-Qwen3.8-27B-UD-Q5_K_XL.gguf | 19.4 GB |
| Q6_K | Dirk-Qwen3.8-27B-UD-Q6_K.gguf | 20.5 GB |
| Q6_K_XL | Dirk-Qwen3.8-27B-UD-Q6_K_XL.gguf | 23.6 GB |
| Q8_K_L | Dirk-Qwen3.8-27B-UD-Q8_K_L.gguf | 26.1 GB |
| Q8_K_XL | Dirk-Qwen3.8-27B-UD-Q8_K_XL.gguf | 29.3 GB |
発表・更新の内容
peculiar-ragdollにより公開された本モデルは、Apache-2.0ライセンスの下で提供されており、F16から各種IQ量子化、Q4_K_Sなど多数の量子化バリエーションが用意されています。Q4_K_S構成では約14.3GBのファイルサイズとなっており、一般的なローカル環境での実行が可能です。
タグ
GGUFHugging Faceggufllama.cppqwen3_5qwen3.8mtpspeculative-decodingtoken-efficientagentic-coding
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。