KoboldCpp v1.120がリリース、DirectIO対応や新モデルのサポートを追加
KoboldCpp v1.120がリリースされ、モデルの読み込みモードにDirectIO（--usedirectio）が新たに追加されました。これに伴いmlockとmmapの併用が可能になったほか、Qwen3.8-Flash-NextやLing-3.0-flashなどの新しいモデル形式がサポートされています。また、アシスタント生成のプレフィルに関する不具合修正や、Kobold Liteの更新、画像生成機能の同期と修正なども含まれています。
根拠公式リポジトリ／リリース
作成方法AIによる要約補助を使用
検証範囲実機での速度・品質・互換性は未検証です。
ローカル利用者への判断
モデル読み込みの効率化や柔軟性が向上し、最新の主要モデルに対応したことで、ローカル環境での推論や運用がより快適になります。特にDirectIOの追加やmlock/mmapの組み合わせは、大規模モデルを扱うユーザーにとって有用な改善です。
モデル読み込みの効率化や柔軟性が向上し、最新の主要モデルに対応したことで、ローカル環境での推論や運用がより快適になります。特にDirectIOの追加やmlock/mmapの組み合わせは、大規模モデルを扱うユーザーにとって有用な改善です。
発表・更新の内容
今回のアップデートでは、誤ってフェイルセーフモードが選択される不具合や、アシスタント生成のプレフィルが不適切にトリガーされる問題が修正されました。新機能としては、DirectIOによるモデルロードや、mlockとmmapの同時利用が可能になっています。また、Qwen3.8-Flash-NextおよびLing-3.0-flashモデルが完全にサポートされ、Kobold Liteの複数な修正に加え、ツール呼び出しに対応したカスタムJavaScriptツールのユーザー設定機能が追加されました。
タグ
KoboldCppGitHub ReleaseGGUFCUDAROCmVulkan量子化Tool Calling
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。