ggml-org 프로젝트가 llama.cpp 버전 b10774를 출시했으며, 여기에는 파인튜닝 모듈의 KV 캐시 누락 문제에 대한 수정이 포함되어 있습니다.
- 학습 구성 요소는 이제 파인튜닝 작업 중 KV 캐시 사용을 올바르게 처리합니다.
- macOS(Apple Silicon 및 Intel), Linux(CPU, Vulkan, ROCm, OpenVINO, SYCL 지원 Ubuntu), Android, Windows(CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, ROCm 지원), openEuler용 바이너리가 제공됩니다.
- 릴리스 애셋에는 iOS XCFramework와 독립형 UI 패키지도 포함되어 있습니다.
이 업데이트는 이전에 손상되었던 키-값 캐시 처리를 해결하여 파인튜닝 워크플로우가 올바르게 작동하도록 보장합니다.