llama.cpp v0.3.0リリース：主要モデルの拡張とMetalカーネル強化
llama.cppのv0.3.0がリリースされ、dots3-noteマルチモーダルモデルやGLM-4.5-AirのMTP（複数トークン予測）に対応しました。また、DeepSeek 4向けのテンソル分割や複数シーケンスのロールバック修正、Metalでの並列コンパイルによるper-opカーネル最適化などが含まれています。
根拠公式リポジトリ／リリース
作成方法AIによる要約補助を使用
検証範囲実機での速度・品質・互換性は未検証です。
ローカル利用者への判断
主要な大規模モデルやマルチモーダルへの対応が進み、ハードウェアアクセラレーション（Metal等）を活用した効率的な推論と安定性が向上しています。
主要な大規模モデルやマルチモーダルへの対応が進み、ハードウェアアクセラレーション（Metal等）を活用した効率的な推論と安定性が向上しています。
発表・更新の内容
v0.3.0では、新規にDSA-ISWA KVキャッシュを採用したdots3-noteモデルや、GLM-4.5-AirのMTPサポートが追加されました。DeepSeek 4向けには `-sm tensor` によるテンソル分割モードや複数シーケンス時のロールバック修正が実装されています。ggmlがv0.22.0へアップデートされ、メタバックエンドのテンソル分割やMetal環境での並列コンパイルに対応しました。さらに、mtmdでのWebPデコード対応や、サーバー機能およびWeb UIの小規模な機能改善も含まれています。
タグ
llama.cppGitHub ReleaseMetalマルチモーダルVision
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。