Proyek llama.cpp merilis versi b9915, yang memperkenalkan dukungan untuk operasi GGML_OP_SET_ROWS CPU f16-to-f16. Pembaruan ini juga mencakup pemeriksaan tipe yang hilang untuk operasi ini dan menggabungkan fungsi forward compute f32 dan f16 menjadi satu implementasi.
- ggml menambahkan dukungan GGML_OP_SET_ROWS CPU f16->f16 dengan pemeriksaan tipe tambahan
- ggml_compute_forward_set_rows_f32() dan ggml_compute_forward_set_rows_f16() digabungkan ke dalam ggml_compute_forward_set_rows_impl()
- Asumsi diganti dengan GGML_ASSERT()
- Binari macOS Apple Silicon (arm64), macOS Intel (x64), dan iOS XCFramework disediakan
- Build Linux mencakup Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO, dan varian SYCL FP32/FP16
- Binari Android arm64 (CPU) tersedia
- Build Windows mencakup x64 dan arm64 CPU, OpenCL Adreno, CUDA 12.4 dan 13.3, Vulkan, OpenVINO, SYCL, dan HIP
- openEuler mendukung x86 dan aarch64 dengan ACL Graph untuk chip 910b
Rilis ini menyediakan binari yang diperbarui di berbagai platform dan akselerator perangkat keras bagi pengguna yang memerlukan fungsi set rows baru.