Apple Silicon向けMLX形式の量子化済みモデル「Ternary-Bonsai-2-27B」派生版が公開
Apple Siliconで動作するMLX形式の2bit量子化モデル「3hs4n/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-mlx-2bit」が公開されました。バイナリサイズは約8.60GBとなっており、Apple製デバイスでの効率的なローカル推論をサポートします。
Apple Silicon環境において、大規模なパラメータを持つ3値化（Ternary）モデルを手元で実行可能にする実用的な選択肢を提供します。
何が公開された？
Hugging Face上の「3hs4n/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-mlx-2bit」が更新されています。確認時点の指標は downloads=179、likes=1 です。
モデルの特徴
元モデルは OS-Software/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF。用途タグは image-text-to-text。
どんなPCなら使えそう？
GGUF容量をAPIから確認できませんでした。対象ファイルの容量とランタイム側のメモリ見積もりを確認してください。
主な仕様
| モデルID | 3hs4n/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-mlx-2bit |
|---|---|
| 配布者 | 3hs4n |
| 元モデル | OS-Software/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF |
| ライセンス | apache-2.0 |
| アーキテクチャ | prism_hadamard_qwen35 |
| コンテキスト長 | 262,144 tokens |
| 用途タグ | image-text-to-text |
| Downloads | 179 |
| Likes | 1 |
| 量子化 | 情報不足 |
推奨量子化
一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。
| バランス重視 | 情報不足 |
|---|---|
| 品質重視 | 情報不足 |
| 省メモリ重視 | 情報不足 |
必要メモリ目安
モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。
| 基準量子化 | 情報不足 |
|---|---|
| モデルファイル容量 | 概算不能 |
| 最低RAM目安 | 概算不能 |
| 推奨RAM目安 | 概算不能 |
| フルGPUオフロード時VRAM目安 | 概算不能 |
対応ランタイム
| ランタイム | 判定 | 根拠 |
|---|---|---|
| LM Studio | 明示あり | モデルカード内にLM Studio関連記載があります。 |
| MLX | 明示あり | モデルカードまたはタグ内に関連記載があります。 |
| Transformers | 明示あり | モデルカードまたはタグ内に関連記載があります。 |
用途評価
| 用途 | 評価 | 根拠 |
|---|---|---|
| チャット | 高 | モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。 |
| コーディング | 情報不足 | コード特化を示す明確な記載を取得できませんでした。 |
| 推論・数学 | 高 | Reasoning/Thinking/Math系の記載があります。 |
| 日本語 | 情報不足 | 日本語対応を直接裏付ける情報を取得できませんでした。 |
| ツール利用・エージェント | 高 | Tool/Function CallingまたはAgent系の記載があります。 |
| 画像理解・マルチモーダル | 高 | Vision/Multimodal系の記載があります。 |
| 長文コンテキスト | 高 | config/APIから最大コンテキスト長 262,144 tokens を確認。実用上の推奨値はメモリ量で変わります。 |
GGUFファイル
| 量子化 | ファイル | 容量 |
|---|---|---|
| 情報不足 | ||
発表・更新の内容
本モデルは、OS-Softwareが公開した「Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF」をベースに、MLX形式へ変換したものです。Prism MLのビジョンタワーを含み、Apple Silicon上での画像テキスト処理や長文脈（262Kコンテキスト）に対応しています。ライセンスはApache-2.0です。API専用ではなく、対応ハードウェアを持つユーザーがローカル環境で直接利用可能です。
タグ
GGUFHugging Facemlxsafetensorsprism_hadamard_qwen35mlx-vlmternary2-bitbonsaiheretic
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。