llama.cppプロジェクトはバージョンb9913をリリースし、新しい型定義とCPUバックエンドサポートを備えたQ2_0量子化を導入しました。このアップデートはmacOS、Linux、Windows、Android、openEulerを含む複数のプラットフォームで利用可能です。
- Q2_0量子化の型定義と対応するCPUバックエンド実装を追加。
- macOS Apple SiliconビルドでのKleidiAIサポートを無効化。
- CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、HIPを含む、さまざまなアーキテクチャとバックエンドのバイナリを提供。
- コアエンジンのアップデートとともにUIバイナリもリリース。