llama.cpp 프로젝트는 Vulkan 백엔드 내에서 Q2_0 양자화 형식에 대한 지원을 도입한 빌드 b10058을 출시했습니다. 이 업데이트에는 macOS, Linux, Windows, Android를 비롯한 다양한 플랫폼의 바이너리 배포판도 포함되어 있습니다.
- Vulkan 백엔드가 이제 Q2_0 양자화를 지원하며, mat-vec-mul 테스트에서 작업 그룹당 행 수를 두 배로 늘려 성능 개선을 달성했습니다.
- 이 릴리스에서는 KleidiAI가 활성화된 macOS Apple Silicon 빌드가 비활성화되었습니다.
- Ubuntu(CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows(CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), Android arm64용 새로운 바이너리가 제공됩니다.
- macOS UI 프레임워크가 버전 b10058로 업데이트되었습니다.
이 릴리스는 사용자가 Vulkan 호환 하드웨어에서 낮은 비트 양자화를 활용할 수 있도록 하며 주요 운영 체제 전반에 걸쳐 업데이트된 바이너리를 제공합니다.