llama.cpp b9874 menambahkan penggabungan CUDA untuk tipe terkuantisasi

Proyek llama.cpp telah merilis versi b9874, yang memperkenalkan implementasi CUDA baru untuk menggabungkan tipe terkuantisasi. Pembaruan ini merupakan bagian dari pengembangan berkelanjutan kemampuan backend pustaka.

• Perubahan kode utama melibatkan penambahan dukungan CUDA untuk penggabungan tipe data terkuantisasi.
• Rilis ini mencakup biner untuk macOS (Apple Silicon dan Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler.
• XCFramework iOS dan build UI mandiri juga disediakan dalam rilis ini.

Pembaruan ini memungkinkan pengguna mengakses fitur terbaru dan dukungan platform yang tersedia di build b9874.