llama.cpp プロジェクトはバージョン b11122 をリリースしました。これには SYCL バックエンドの重要な更新が含まれています。このリリースでは、MMVQ GLU 融合が混合量子化タイプをサポートするように拡張され、rms_norm+scale および ssm_conv+silu 演算のための新しい融合が導入されました。
- SYCL バックエンドで混合量子化タイプを処理するために MMVQ GLU 融合を拡張します。
- SYCL のための rms_norm+scale および ssm_conv+silu 融合を追加します。
- スペースの問題を修正し、マクロをテンプレート関数に変換します。
- CUDA、Vulkan、ROCm、OpenVINO を含む CPU、GPU、NPU バックエンド向けに、macOS、Linux、Windows、Android、openEuler のバイナリを提供します。
このアップデートは、llama.cpp エコシステム内での SYCL ベースのハードウェア アクセラレーションのパフォーマンスと互換性を向上させます。