モデル

AtomicChat、三値量子化ベースモデル向け「Ternary-Bonsai-2-9B-Uncensored-LoRA-GGUF」を公開

AtomicChatは、三値量子化を採用した「Ternary-Bonsai-2-9B」のGGUFモデルに対応する、非検閲化LoRAアダプター「Ternary-Bonsai-2-9B-Uncensored-LoRA-GGUF」をHugging Faceで公開した。

根拠公式モデルカード／配布ページ

作成方法AIによる要約補助を使用

検証範囲速度・品質・互換性は実機では検証していません。

ローカル利用者の判断材料
llama.cppなどのローカル環境において、ベースとなる三値量子化パックのバイナリを変更せずに計算グラフ内で拒絶反応を調整・解除することが可能になる。

何が公開された？

Hugging Face上の「AtomicChat/Ternary-Bonsai-2-9B-Uncensored-LoRA-GGUF」が更新されています。確認時点の指標は downloads=908、likes=6 です。

元モデルは prism-ml/Ternary-Bonsai-2-9B-gguf。用途タグは text-generation。

確認できたGGUFのファイル容量は 3.0 MB〜3.0 MB。実際の推論ではKVキャッシュ等も必要なため、VRAM/RAMには追加の余裕が必要です。

GGUF形式はllama.cpp系ランタイムで利用されます。ただし新しいアーキテクチャではランタイム側の対応が必要なため、LM Studio / llama.cppの対応状況を確認してください。

コンテキスト長をconfig/APIから確定できませんでした。

モデルID	AtomicChat/Ternary-Bonsai-2-9B-Uncensored-LoRA-GGUF
配布者	AtomicChat
元モデル	prism-ml/Ternary-Bonsai-2-9B-gguf
ライセンス	apache-2.0
アーキテクチャ	情報不足
コンテキスト長	情報不足
用途タグ	text-generation
Downloads	908
Likes	6
量子化	情報不足

一般的なGGUF選択の目安であり、モデル固有の品質保証ではありません。

モデルファイル容量を基準にした概算です。コンテキスト長などで必要量は変わります。

ランタイム	判定	根拠
llama.cpp	明示あり	モデルカードまたはタグにllama.cppに関する記載があります。
LM Studio	互換候補	GGUFを扱えますが、新しいアーキテクチャではLM Studio側の対応確認が必要です。
Ollama	明示あり	モデルカードにOllamaに関する記載があります。
KoboldCpp	互換候補	GGUF系ランタイムですが、アーキテクチャへの対応状況を確認する必要があります。

用途	評価	根拠
チャット	高	モデル名・タグ・モデルカードにチャット/Instruction系の手掛かりがあります。
コーディング	情報不足	コード特化を示す明確な記載を取得できませんでした。
推論・数学	情報不足	推論特化を示す明確な記載を取得できませんでした。
日本語	情報不足	日本語対応を直接裏付ける情報を取得できませんでした。
ツール利用・エージェント	情報不足	ツール利用を裏付ける明確な情報を取得できませんでした。
画像理解・マルチモーダル	情報不足	画像入力対応を裏付ける明確な情報を取得できませんでした。

量子化	ファイル	容量
	Ternary-Bonsai-2-9B-Uncensored-LoRA.gguf	3.0 MB

ライセンスはApache-2.0である。公開されたアダプターのサイズは約3.2 MBであり、約2.0 GBの三値量子化ベースモデルパックと組み合わせて利用する。リクエストごとに拒絶方向の強度を設定できる仕組みを備えており、ローカルでのカスタマイズ実行に対応している。