llama.cppプロジェクトはビルドb9871をリリースしました。これには、量子化データ型を処理する際の壊れたCPU結合実装の修正が含まれています。

  • 主要な変更点は、量子化された型に対するggmlのCPU結合ロジックのバグを修正し、正確性を検証するための新しいテストを追加したことです。
  • macOS (Apple Silicon および Intel)、Linux (Ubuntu x64/arm64/s390x with CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL)、Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP)、Android arm64、および openEuler 用のビルド済みバイナリが利用可能です。
  • このリリースには更新されたUIバイナリも含まれています。