llama.cpp v0.4.1がリリース、新規モデルのサポートとコア機能の改善を実施
llama.cpp v0.4.1が公開され、Maple 20B-A1BやTencent Hy 4、Spark2.5のサポートが追加されました。また、ggmlがv0.24.0に更新され、JSONスキーマ処理やチャットパース、DeepSeek2やGLM-MoEなどのKVキャッシュ割り当てに関する修正が行われています。
根拠公式リポジトリ／リリース
作成方法AIによる要約補助を使用
検証範囲実機での速度・品質・互換性は未検証です。
ローカル利用者への判断
多様な新アーキテクチャのモデルに対応し、量子化ランタイム全体の互換性と安定性が向上しました。
多様な新アーキテクチャのモデルに対応し、量子化ランタイム全体の互換性と安定性が向上しました。
発表・更新の内容
llama.cpp v0.4.1では、Maple 20B-A1B、Tencent Hy 4、Spark2.5といった新しいモデルアーキテクチャのサポートが追加されました。加えて、ggmlのv0.24.0へのアップデートや、Kimi-K3のリカレントステートロールバック対応、DeepSeek2やGLM-MoEモデルにおけるMTPコンテキストKVキャッシュ割り当ての修正など、コア部分の信頼性が高められています。API変更として、`llama_sampler_chain_n()`の戻り値がintからint32_tに変更されました。
タグ
llama.cppGitHub ReleaseContext
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。