Proyek llama.cpp telah merilis versi b10004, memperkenalkan dukungan penuh untuk f16 sebagai sumber dalam operasi SET_ROWS untuk backend Vulkan dan CPU. Pembaruan ini juga mencakup pengujian backend tambahan dan perbaikan spesifik untuk perangkat keras Intel.
- Menambahkan dukungan penuh untuk SET_ROWS f16 (setara dengan f32) ke backend Vulkan dan CPU.
- Mengatur DenormPreserve 16 saat didukung untuk mengatasi kegagalan pada prosesor Intel.
- Menyesuaikan ambang batas error dan memperbarui supports_op Metal.
- Menyediakan biner untuk macOS, Linux, Android, Windows, dan openEuler di backend CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL, dan HIP.
Rilis ini meningkatkan penanganan presisi dalam operasi backend tertentu dan memperluas cakupan platform dengan distribusi biner baru.