Qwen3.8ベースの非検閲版GGUFモデル「Huihui-Qwen3.8-Flash-Next-abliterated-GGUF」が公開
Qwen/Qwen3.8-Flash-Nextをベースに、アブリレーション処理（拒絶反応の除去）を施した非検閲版のGGUFモデルがHugging Faceで公開された。BF16から各種量子化フォーマット（IQ4_XSなど）に対応している。
ローカルLLM愛好家向けに、Qwen3.8系統の高効率なモデルを非検閲かつ量子化済みで利用可能にする選択肢を提供する。
何が公開された？
Hugging Face上の「huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated-GGUF」が更新されています。確認時点の指標は downloads=253,858、likes=149 です。
モデルの特徴
元モデルは Qwen/Qwen3.8-Flash-Next。用途タグは image-text-to-text。
量子化・ファイル構成
ファイル名から判別できた量子化は BF16, Q8_0, IQ4_XS, Q4_K_XL, IQ2_XS, IQ3_XXS。GGUFファイルは 32 件確認できました。
どんなPCなら使えそう？
確認できたGGUFのファイル容量は 10.4 MB〜95.4 GB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。
LM Studio / llama.cppで使える？
GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。
注意点
コンテキスト長をconfig/APIから確定できませんでした。
主な仕様
| モデルID | huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated-GGUF |
|---|---|
| 配布者 | huihui-ai |
| 元モデル | Qwen/Qwen3.8-Flash-Next |
| ライセンス | other |
| アーキテクチャ | 情報不足 |
| コンテキスト長 | 情報不足 |
| 用途タグ | image-text-to-text |
| Downloads | 253,858 |
| Likes | 149 |
| 量子化 | BF16, Q8_0, IQ4_XS, Q4_K_XL, IQ2_XS, IQ3_XXS |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | IQ4_XS (87.2 GB) |
|---|---|
| 品質重視 | Q8_0 (175.3 GB) |
| 省メモリ重視 | IQ4_XS (87.2 GB) |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 基準量子化 | IQ4_XS |
|---|---|
| モデルファイル容量 | 87.25 GiB |
| 最低RAM目安 | 102.5 GiB |
| 推奨RAM目安 | 122.0 GiB |
| フルGPUオフロード時VRAM目安 | 101.5 GiB |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| llama.cpp | 明示あり | モデルカードまたはタグ内にllama.cpp関連記載があります。 |
| LM Studio | 互換候補 | GGUFを扱えますが、新しいアーキテクチャではLM Studio側の対応確認が必要です。 |
| Ollama | インポート候補 | GGUFを取り込める場合がありますが、モデルアーキテクチャとテンプレートの対応確認が必要です。 |
| KoboldCpp | 互換候補 | GGUF系ランタイムですが、アーキテクチャ対応状況の確認が必要です。 |
| Transformers | 明示あり | モデルカードまたはタグ内に関連記載があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 情報不足 | コード特化を示す明確な記載を取得できませんでした。 |
| 推論・数学 | 高 | Reasoning/Thinking/Math系の記載があります。 |
| 日本語 | 情報不足 | 日本語対応を直接裏付ける情報を取得できませんでした。 |
| ツール利用・エージェント | 情報不足 | ツール利用を裏付ける明確な情報を取得できませんでした。 |
| 画像理解・マルチモーダル | 高 | Vision/Multimodal系の記載があります。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00001-of-00008.gguf | 10.4 MB |
| Q8_0 | Q8_0/Qwen3.8-Flash-Next-Q8_0-00001-of-00006.gguf | 10.4 MB |
| IQ4_XS | unsloth-UD-IQ4_XS/Qwen3.8-Flash-Next-UD-IQ4_XS-00001-of-00003.gguf | 10.4 MB |
| Q4_K_XL | unsloth-UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00001-of-00004.gguf | 10.4 MB |
| Q4_K_XL | UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00001-of-00004.gguf | 10.4 MB |
| Q8_0 | Q8_0/Qwen3.8-Flash-Next-Q8_0-00002-of-00006.gguf | 650.8 MB |
| BF16 | mmproj-model-bf16.gguf | 865.5 MB |
| BF16 | mmproj-Qwen3.8-Flash-Next-BF16.gguf | 865.5 MB |
| BF16 | mmproj-Swift-Qwen3.8-Flash-Next-BF16.gguf | 865.5 MB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00002-of-00008.gguf | 9.7 GB |
| Q4_K_XL | unsloth-UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00004-of-00004.gguf | 11.3 GB |
| Q4_K_XL | UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00004-of-00004.gguf | 11.3 GB |
| IQ2_XS | swift-IQ2_XS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ2_XS-00002-of-00002.gguf | 26.4 GB |
| Q8_0 | Q8_0/Qwen3.8-Flash-Next-Q8_0-00006-of-00006.gguf | 31.7 GB |
| IQ3_XXS | swift-IQ3_XXS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00002-of-00002.gguf | 33.7 GB |
| IQ3_XXS | swift-IQ3_XXS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00001-of-00002.gguf | 37.1 GB |
| IQ2_XS | swift-IQ2_XS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ2_XS-00001-of-00002.gguf | 37.1 GB |
| IQ4_XS | unsloth-UD-IQ4_XS/Qwen3.8-Flash-Next-UD-IQ4_XS-00003-of-00003.gguf | 40.8 GB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00008-of-00008.gguf | 44.2 GB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00005-of-00008.gguf | 45.0 GB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00007-of-00008.gguf | 45.0 GB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00004-of-00008.gguf | 45.1 GB |
| BF16 | BF16/Qwen3.8-Flash-Next-BF16-00006-of-00008.gguf | 45.3 GB |
| Q4_K_XL | unsloth-UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00003-of-00004.gguf | 46.0 GB |
| Q4_K_XL | UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00003-of-00004.gguf | 46.0 GB |
| Q8_0 | Q8_0/Qwen3.8-Flash-Next-Q8_0-00004-of-00006.gguf | 46.1 GB |
| Q8_0 | Q8_0/Qwen3.8-Flash-Next-Q8_0-00005-of-00006.gguf | 46.3 GB |
| IQ4_XS | unsloth-UD-IQ4_XS/Qwen3.8-Flash-Next-UD-IQ4_XS-00002-of-00003.gguf | 46.4 GB |
| Q4_K_XL | unsloth-UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00002-of-00004.gguf | 46.4 GB |
| Q4_K_XL | UD-Q4_K_XL/Qwen3.8-Flash-Next-UD-Q4_K_XL-00002-of-00004.gguf | 46.4 GB |
発表・更新の内容
huihui-ai氏によって公開された本モデルは、元モデルの持つ推論・効率的思考能力を保持しつつ、出力時の拒絶反応を取り除くアブリレーションが行われています。推奨量子化であるIQ4_XSフォーマットの場合、モデルファイルサイズは約87.25 GiBとなっており、動作には十分なシステムRAMやVRAMの確保が必要です。ローカル環境でのllama.cpp等での実行に対応しています。
タグ
GGUFHugging Facetransformersggufabliterateduncensoredhuihuiqwen3unslothllama.cpp
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。