github llama.cpp · 2日前 · inference

llama.cpp b11012 が qwen4exp hc 演算の Vulkan サポートを追加

翻訳元 English → 日本語

llama.cpp プロジェクトはバージョン b11012 をリリースし、プルリクエスト #28988 を介して qwen4exp hc 演算の Vulkan サポートを導入しました。このアップデートには、古いコメントの修正も含まれています。

今回のリリースでは、複数のプラットフォームとハードウェアアクセラレータ向けにバイナリとフレームワークが提供されています：

macOS: Apple Silicon (arm64)、Intel (x64)、および iOS XCFramework。
Linux: CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 向けの Ubuntu ビルド。
Windows: CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、および ROCm 10.0 向けのビルド。
Android: arm64 CPU サポート。

このリリースにより、ユーザーは対応するオペレーティングシステム上で Vulkan 互換の GPU で高計算量の演算を行う qwen4exp モデルを実行できるようになります。

重要度 1/3 信頼度 1/3 llama.cpp Inference efficiency Local inference

原文を読む

github llama.cpp · たった今 · 1 回表示ライブ

llama.cpp b11046 が flash_attn_f32_f16_bin カーネルの OpenCL サポートを追加

llama.cpp プロジェクトはバージョン b11046 をリリースし、`flash_attn_f32_f16_bin` カーネルの OpenCL サポートを導入しました。このアップデートには、OpenCL デバイス上の Flash Attention 用のガード付きプリフィル機能も含まれています。

github llama.cpp · 5時間前 · 1 回表示

llama.cpp b11042 が OpenCL A8 Q6_K バイナリカーネルを追加

llama.cpp プロジェクトはバージョン b11042 をリリースし、A8 Q6_K 非 MoE モデル用の新しい OpenCL バイナリカーネルを導入しました。このアップデートには、OpenCL バックエンド内のレイアウト互換性の修正も含まれています。

github llama.cpp · 9時間前 · 1 回表示

llama.cpp b11039がモデルセーバーとローダーにSWAパターンサポートを追加

llama.cppプロジェクトはビルドb11039をリリースし、SWAを使用するすべてのモデルに対して、スライディングウィンドウアテンション（SWA）パターンとMLA SWAジオメトリを書き出すようにモデルセーバーを更新しました。この変更により、`sliding_window_pattern`がスカラーに圧縮されるのではなく、レイヤーごとのフラグとして書き出され、正確なデータ表現が保持されます。

github llama.cpp · 1日前 · 6 回表示

llama.cpp b11024 が OpenVINO を 2026.4 に更新し、警告を修正

llama.cpp プロジェクトはビルド b11024 をリリースしました。これは主に OpenVINO 統合をバージョン 2026.4 に更新するものです。

github llama.cpp · 1日前 · 2 回表示

llama.cpp b11025 が Nemotron MTP サポートを拡張

llama.cpp プロジェクトはビルド b11025 をリリースしました。これには、Nemotron 複数トークン予測 (MTP) サポートの拡張が含まれています。