llama.cpp 프로젝트는 버전 b10004를 출시하며 Vulkan과 CPU 백엔드 모두에서 SET_ROWS 연산의 소스로 f16에 대한 완전한 지원을 도입했습니다. 이 업데이트에는 추가적인 백엔드 테스트와 Intel 하드웨어에 대한 특정 수정도 포함되어 있습니다.
- Vulkan 및 CPU 백엔드에 f16 SET_ROWS(f32와 동등)에 대한 완전한 지원을 추가합니다.
- Intel 프로세서에서의 실패를 해결하기 위해 지원되는 경우 DenormPreserve 16을 설정합니다.
- 오류 임계값을 조정하고 Metal supports_op을 업데이트합니다.
- CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL, HIP 백엔드에 대해 macOS, Linux, Android, Windows, openEuler용 바이너리를 제공합니다.
이번 릴리스는 특정 백엔드 연산에서의 정밀도 처리를 개선하고 새로운 바이너리 배포로 플랫폼 범위를 확장했습니다.