llama.cpp 프로젝트는 버전 b9915를 출시하여 CPU f16-to-f16 GGML_OP_SET_ROWS 연산에 대한 지원을 도입했습니다. 이 업데이트에는 해당 연산에 누락되었던 형식 검사도 포함되어 있으며, f32 및 f16 계산 포워드 함수가 단일 구현으로 병합되었습니다.
- ggml에 추가된 형식 검사와 함께 CPU f16->f16 GGML_OP_SET_ROWS 지원 추가
- ggml_compute_forward_set_rows_f32()와 ggml_compute_forward_set_rows_f16()이 ggml_compute_forward_set_rows_impl()로 병합
- 어설션이 GGML_ASSERT()로 대체됨
- macOS Apple Silicon (arm64), macOS Intel (x64) 및 iOS XCFramework 바이너리 제공
- Linux 빌드에는 Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16 변형 포함
- Android arm64 (CPU) 바이너리 사용 가능
- Windows 빌드는 x64 및 arm64 CPU, OpenCL Adreno, CUDA 12.4 및 13.3, Vulkan, OpenVINO, SYCL, HIP을 지원
- openEuler는 910b 칩용 ACL Graph와 함께 x86 및 aarch64 지원
이번 릴리스는 새로운 set rows 기능이 필요한 사용자를 위해 여러 플랫폼과 하드웨어 가속기 전반에 걸쳐 업데이트된 바이너리를 제공합니다.