media r/LocalLLaMA · 45日前 · open_models

Prism-MLがBonsai Qwen3.6-27BのGGUFチェックポイントをリリース

翻訳元 English → 日本語

Prism-MLはTernary-Bonsai-27Bモデルをリリースし、Hugging FaceでGGUFチェックポイントとして利用可能です。

このリリースでは、GGUF形式を通じてローカル推論に最適化されたQwen3.6アーキテクチャの270億パラメータ版が提供されています。

重要度 1/3 r/LocalLLaMA Hugging Face

原文を読む

github llama.cpp · 1時間前 · 1 回表示ライブ

llama.cpp b10677 が Vulkan のビューエイリアス依存関係のバグを修正

llama.cpp b10677 リリースは、Vulkan バックエンドにおける重大なバグに対処します。このバグでは、ビューエイリアスの依存関係が欠落していたため、グラフ最適化ノードの順序が誤って入れ替えられていました。

github llama.cpp · 3時間前 · 1 回表示

llama.cpp b10676 が ggml および Metal で複数のバッチに対する conv_transpose_2d を修正

llama.cpp リリース b10676 は、`conv_transpose_2d` のバグを修正しました。このバグでは最初のバッチのみが計算され、以降のバッチがゼロのままになっていました。この修正はコア ggml ライブラリと Metal バックエンドの実装の両方に適用されます。

github llama.cpp · 4時間前 · 1 回表示

llama.cpp b10673 が Apple M4 用の fa-vec 調整を追加

llama.cpp プロジェクトは、Apple M4 ハードウェア向けの特定の性能最適化を含むビルド b10673 をリリースしました。このアップデートは、Metal バックエンドの効率を向上させるために ggml-metal-tuning モジュールに fa_vec_tuned_table レコードを導入します。

github llama.cpp · 6時間前 · 2 回表示

llama.cpp b10670 が Xe2 (BMG) 上の TILE に量子化 KV デコードをルーティング

llama.cpp プロジェクトはバージョン b10670 をリリースし、Intel の Xe2 アーキテクチャ用の特定の最適化が含まれています。この更新では、量子化されたキーバリュー (KV) デコード操作を BMG ハードウェアに対して TILE バックエンドのみにルーティングし、他のアーキテクチャについては検証されるまで VEC バックエンドを維持します。

github llama.cpp · 6時間前 · 3 回表示

llama.cpp b10672がWhisper.cppサポート、Qwen3.5 NPU有効化、OpenVINO 2026.3.1アップデートを追加

llama.cppプロジェクトはビルドb10672をリリースし、OpenVINOバックエンドをバージョン2026.3.1に更新し、NPU上のWhisper.cppモデルのサポートを追加しました。