Ollama v0.34.1リリース：MLX safetensors作成の正式対応とApple Siliconメモリ管理の改善
ローカルLLMランタイムのOllamaがv0.34.1をリリースしました。Apple Silicon上のMLX safetensorsを用いたモデル作成が実験的機能から正式対応となり、メモリハンドリングやAPIの高速化が行われています。
根拠公式リポジトリ／リリース
作成方法AIによる要約補助を使用
検証範囲実機での速度・品質・互換性は未検証です。
ローカル利用者への判断
Apple SiliconユーザーにとってMLX形式のモデル運用がより安定し、大規模なモデルライブラリでのAPI応答速度が大幅に改善されるため、実用性が大きく向上します。
Apple SiliconユーザーにとってMLX形式のモデル運用がより安定し、大規模なモデルライブラリでのAPI応答速度が大幅に改善されるため、実用性が大きく向上します。
発表・更新の内容
今回の更新では、MLX safetensorsを使用した`ollama create`が正式機能となりました。なお、GGUFモデルの作成にはllama.cppのツールによる変換・量子化が必要となります。また、Apple SiliconにおけるMLXメモリハンドリングの改善、無限ループトークン検出のしきい値調整（誤検知の削減）、`/api/tags`エンドポイントの高速化（コールドスタート時3.1秒から約294msへ短縮）などが実施されています。
タグ
OllamaGitHub ReleaseGGUF量子化Tool Calling
この記事は一次情報を日本語で整理したものです。開発元が公表した性能値は独立検証済みとは限りません。導入・購入・ライセンス判断の前に、リンク先の最新版も確認してください。