https://localllmwiki.com/ローカルLLMを選び、動かし、更新するための日本語ガイド。一次情報を基に必要メモリ、量子化、対応ランタイムとAI業界の重要動向を整理します。jahttps://localllmwiki.com/articles/2026-10-17-20c0305d12b2/https://localllmwiki.com/articles/2026-10-17-20c0305d12b2/Sat, 17 Oct 2026 00:00:00 +0000H2O Lightning 4BのGGUF版がHugging Faceに公開されました。決定モデルとしての機能やllama.cppの拡張機能を利用した推論に対応しています。https://localllmwiki.com/articles/2026-10-17-40b3d3e2a7f7/https://localllmwiki.com/articles/2026-10-17-40b3d3e2a7f7/Sat, 17 Oct 2026 00:00:00 +0000大規模なMoE構造を持つLaguna-XS-2.1のAPEXおよび標準GGUF量子化モデルが公開されました。動的・バンド認識型のビット割り当てによる効率的な量子化が行われています。https://localllmwiki.com/articles/2026-10-16-f0c67f699c23/https://localllmwiki.com/articles/2026-10-16-f0c67f699c23/Fri, 16 Oct 2026 00:00:00 +0000Anthropicは、モデルの安全性やリスク評価の透明性を高めるため、非営利組織のMETRをはじめとする外部評価チームに対し、自社モデルへの従業員レベルの深いアクセスを提供開始すると発表した。https://localllmwiki.com/articles/2026-10-16-a639d40fe618/https://localllmwiki.com/articles/2026-10-16-a639d40fe618/Thu, 15 Oct 2026 00:00:00 +0000Ollamaは最新バージョンv0.40.5を公開し、ビジョン・言語モデルのNVIDIA Nemotron 3.5 SuperおよびBoltへの対応や、クラウド経由の意思決定モデル利用機能などを追加した。https://localllmwiki.com/articles/2026-10-11-4be2ba16ba46/https://localllmwiki.com/articles/2026-10-11-4be2ba16ba46/Sun, 11 Oct 2026 00:00:00 +0000Apple Siliconで動作するMLX形式の2bit量子化モデル「3hs4n/Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-mlx-2bit」が公開されました。バイナリサイズは約8.60GBとなっており、Apple製デバイスでの効率的なローカル推論をサポートします。https://localllmwiki.com/articles/2026-10-11-0032e25c771a/https://localllmwiki.com/articles/2026-10-11-0032e25c771a/Sat, 10 Oct 2026 00:00:00 +0000NextN/MTP（Multi-Token Prediction）のドラフトヘッドを同梱したGGUF形式のモデル「ManniX-ITA/Ternary-Bonsai-2-27B-MTP-GGUF」が公開されました。追加のファイルや外部のドラフターを用意せず、単一ファイルで自己推論（スペキュレイティブ・デコーディング）を行います。https://localllmwiki.com/articles/2026-10-09-4afd7d2b8bf9/https://localllmwiki.com/articles/2026-10-09-4afd7d2b8bf9/Thu, 08 Oct 2026 00:00:00 +0000Qwen3.8-27Bをベースとした3値化（ternary）モデルのGGUF版が公開されました。llama.cppなどを通じてオンデバイスでの実行が可能です。https://localllmwiki.com/articles/2026-10-08-0ba88951be62/https://localllmwiki.com/articles/2026-10-08-0ba88951be62/Thu, 08 Oct 2026 00:00:00 +0000Qwen/Qwen3.8-Flash-Nextをベースに、アブリレーション処理（拒絶反応の除去）を施した非検閲版のGGUFモデルがHugging Faceで公開された。BF16から各種量子化フォーマット（IQ4_XSなど）に対応している。https://localllmwiki.com/articles/2026-10-08-e4b03fec4c4f/https://localllmwiki.com/articles/2026-10-08-e4b03fec4c4f/Thu, 08 Oct 2026 00:00:00 +0000PrismMLのTernary Bonsai 2 27Bをベースに、MTPドラフトヘッドを組み込んで長大なコンテキスト長に対応させたGGUF形式の量子化モデルが公開された。12GBのVRAMを搭載した単一のGPUでも効率的な動作を実現する。https://localllmwiki.com/articles/2026-10-08-ce36ab4f4b2a/https://localllmwiki.com/articles/2026-10-08-ce36ab4f4b2a/Wed, 07 Oct 2026 00:00:00 +0000Anthropicは、要約やサブエージェント、ブラウザ操作などの高負荷タスク向けに設計された最速・最小モデル「Claude Haiku 5.5」を発表した。前モデルと比較してコストが平均約75%削減されているほか、Sonnet 5.5のキャッシュ読み取り価格引き下げなども同時に行われている。https://localllmwiki.com/articles/2026-10-07-ecf45a9e2812/https://localllmwiki.com/articles/2026-10-07-ecf45a9e2812/Wed, 07 Oct 2026 00:00:00 +0000Anthropicは、資格を持つセキュリティ専門家を対象に高度なサイバーセキュリティ機能と緩和されたブロック機能を提供する「Cyber Verification Program (CVP)」の拡充を発表しました。Claude Opus 5.5などの最高性能モデルへのアクセスが3つのティアで提供されます。https://localllmwiki.com/articles/2026-10-07-96782b2429c8/https://localllmwiki.com/articles/2026-10-07-96782b2429c8/Tue, 06 Oct 2026 00:00:00 +0000Mistral AIは、総パラメータ数1兆・アクティブパラメータ数490億を持つネイティブマルチモーダルモデル「Mistral Large 4」のプレビュー版を公開しました。コード生成やエージェント処理で優れた性能を示し、オープンウェイトモデルとして月末に重みの一般公開が予定されています。https://localllmwiki.com/articles/2026-10-06-da98af9530f1/https://localllmwiki.com/articles/2026-10-06-da98af9530f1/Tue, 06 Oct 2026 00:00:00 +0000llama.cpp v0.6.0がリリースされ、混合トークン/埋め込み入力用の新しい拡張バッチAPI「llama_batch_ext」の追加や、GLM-5.3-Flashなどの新モデルサポート、意思決定モデル向けのサーバーAPI実装が行われました。https://localllmwiki.com/articles/2026-10-01-4f96337243b7/https://localllmwiki.com/articles/2026-10-01-4f96337243b7/Wed, 30 Sep 2026 00:00:00 +0000HybridRMDは、コンテキスト管理や対話に特化した27Bパラメータのモデル「Ternary-Bonsai-2-27B-Heretic-Satellite」を公開しました。Qwen3.5系をベースアーキテクチャとし、Layaモデルの知識蒸留によって作成されています。https://localllmwiki.com/articles/2026-09-28-faa1bda48283/https://localllmwiki.com/articles/2026-09-28-faa1bda48283/Mon, 28 Sep 2026 00:00:00 +0000zai-orgのGLM-5.3-Flashをベースに、アブリレーション技術を用いて拒絶応答を削除した非検閲版のGGUFモデルが公開されました。IQ1_SからBF16までの多様な量子化フォーマットが用意されています。https://localllmwiki.com/articles/2026-09-28-2de875fe10b6/https://localllmwiki.com/articles/2026-09-28-2de875fe10b6/Mon, 28 Sep 2026 00:00:00 +0000PrismMLが提供する三値量子化されたTernary Bonsai 2 27Bモデルに対し、Qwen 3.8 27Bのマルチトークン予測（MTP）ヘッドを組み込んだGGUFファイルが公開されました。llama.cppの独自フォーク環境での高速な推論が期待できます。https://localllmwiki.com/articles/2026-09-25-fe4461afe5b2/https://localllmwiki.com/articles/2026-09-25-fe4461afe5b2/Fri, 25 Sep 2026 00:00:00 +0000LiquidAIのLFM2.5-2.6Bをベースにし、多様な推論・指示モードやTurbo Brillianceシステムを統合した派生GGUFモデルがHugging Faceに登場しました。IQ4_XSやQ3などの量子化版が提供されており、ローカル環境での実行検証が行われています。https://localllmwiki.com/articles/2026-09-25-fb416b1d0b7b/https://localllmwiki.com/articles/2026-09-25-fb416b1d0b7b/Fri, 25 Sep 2026 00:00:00 +0000Ternary-Bonsai-2-27Bなどの2bit/3bit量子化モデル向けに最適化された、DFlash2アーキテクチャ採用のドラフトモデルが公開されました。推測デコード（Speculative Decoding）によるローカル環境での高速化を目的としています。https://localllmwiki.com/articles/2026-09-24-c621797c2666/https://localllmwiki.com/articles/2026-09-24-c621797c2666/Thu, 24 Sep 2026 00:00:00 +0000Prism-MLの三値量子化モデルをベースに、拒絶応答を無効化（アブレーション）したGGUF版モデルが公開されました。マルチトークン予測（MTP）ヘッドをオプションで追加し、推論の高速化を実現しています。https://localllmwiki.com/articles/2026-09-27-83d8f063adef/https://localllmwiki.com/articles/2026-09-27-83d8f063adef/Wed, 23 Sep 2026 00:00:00 +0000OpenAIは、フロンティアAIモデルや安全性確保のための厳格かつ独立した第三者評価に関する優先順位と原則を公表しました。モデルのトレーニング、評価、デプロイの各段階において深いアクセスを提供し、独立した評価を支援する方針を示しています。