llama.cpp プロジェクトはバージョン b10425 をリリースしました。これには、gated-delta-net 状態書き戻しコピーを融合するための SYCL 最適化のポートが含まれています。
- この変更により、Qwen 3.6 27B をインターリーブされた A/B パスで実行する際に、Arc Pro B70 ハードウェア上でパフォーマンスが約 1.2% 向上します。
- プリフィルレイテンシ (pp2048) は平坦に保たれ、トークン生成速度はわずかに増加します。
- バイナリは macOS、Linux、Windows、Android、openEuler 向けに、CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL の各バックエンドで利用可能です。
このリリースでは、最新のモデル最適化をサポートするため、さまざまなプラットフォームとアクセラレータ用の更新されたビルドが提供されています。