超大型GGUFモデル「FINAL-Bench/POCKET-Darwin-180B-GGUF」が公開
VIDRAFTのPOCKETファミリーから、約180Bパラメータの大規模な量子化モデル「FINAL-Bench/POCKET-Darwin-180B-GGUF」が公開された。多言語対応のMoEモデルとして、llama.cppでのオンデバイス運用を想定している。
180Bという非常に大きなパラメータ数を持つモデルの量子化版であり、ハイエンドなローカルGPU環境やDGX環境での動作検証に適しています。
何が公開された？
Hugging Face上の「FINAL-Bench/POCKET-Darwin-180B-GGUF」が更新されています。確認時点の指標は downloads=343,743、likes=66 です。
モデルの特徴
元モデルは FINAL-Bench/Darwin-180B-RSI-R3。用途タグは text-generation。
量子化・ファイル構成
ファイル名から確認できた量子化方式は Q4_K_XL。GGUFファイルは 4 件確認できました。
どんなPCなら使えそう？
確認できたGGUFのファイル容量は 10.4 MB〜46.4 GB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。
LM Studio / llama.cppで使える？
GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。
注意点
コンテキスト長をconfig/APIから確定できませんでした。
主な仕様
| モデルID | FINAL-Bench/POCKET-Darwin-180B-GGUF |
|---|---|
| 配布者 | FINAL-Bench |
| 元モデル | FINAL-Bench/Darwin-180B-RSI-R3 |
| ライセンス | other |
| アーキテクチャ | 情報不足 |
| コンテキスト長 | 情報不足 |
| 用途タグ | text-generation |
| Downloads | 343,743 |
| Likes | 66 |
| 量子化 | Q4_K_XL |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | 情報不足 |
|---|---|
| 品質重視 | 情報不足 |
| 省メモリ重視 | 情報不足 |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 計算の基準となる量子化 | 情報不足 |
|---|---|
| モデルファイル容量 | 概算不能 |
| 最低RAM目安 | 概算不能 |
| 推奨RAM目安 | 概算不能 |
| 全量GPUオフロード時のVRAM目安 | 概算不能 |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| llama.cpp | 明示あり | モデルカードまたはタグにllama.cppに関する記載があります。 |
| LM Studio | 互換候補 | GGUFを扱えますが、新しいアーキテクチャではLM Studio側の対応確認が必要です。 |
| Ollama | インポート候補 | GGUFを取り込める場合がありますが、モデルアーキテクチャとテンプレートが対応しているか確認する必要があります。 |
| KoboldCpp | 互換候補 | GGUF系ランタイムですが、アーキテクチャへの対応状況を確認する必要があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 情報不足 | コード特化を示す明確な記載を取得できませんでした。 |
| 推論・数学 | 高 | Reasoning/Thinking/Math系の記載があります。 |
| 日本語 | 中 | 多言語対応の記載はありますが、日本語の品質は個別に確認する必要があります。 |
| ツール利用・エージェント | 情報不足 | ツール利用を裏付ける明確な情報を取得できませんでした。 |
| 画像理解・マルチモーダル | 情報不足 | 画像入力対応を裏付ける明確な情報を取得できませんでした。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| Q4_K_XL | POCKET-Darwin-180B-UD-Q4_K_XL-00001-of-00004.gguf | 10.4 MB |
| Q4_K_XL | POCKET-Darwin-180B-UD-Q4_K_XL-00004-of-00004.gguf | 11.3 GB |
| Q4_K_XL | POCKET-Darwin-180B-UD-Q4_K_XL-00003-of-00004.gguf | 46.0 GB |
| Q4_K_XL | POCKET-Darwin-180B-UD-Q4_K_XL-00002-of-00004.gguf | 46.4 GB |
発表・更新の内容
FINAL-Bench/Darwin-180B-RSI-R3をベースにしたGGUF形式のモデルです。Q4_K_XLなどの量子化が提供されており、ライセンスはqwen-community-1.0をベースとした独自ライセンスが適用されています。英語、韓国語、中国語、日本語などの多言語に対応しています。
タグ
GGUFHugging Faceggufllama.cpppocketdarwindarwin-rsimodel-level-rsidgx-sparkon-device
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。