ggml-org 프로젝트가 버전 b9878을 출시했으며, 여기에는 드래프트 모델에 영향을 미치는 오래된 tensor-split 파라미터에 대한 수정이 포함되어 있습니다. 이 업데이트는 ggml-backend-meta 구성 요소 내 GQA 어텐션과 관련된 메타데이터 문제를 해결합니다.
- GQA 어텐션을 위한 tensor split 메타데이터 수정.
- ggml-backend-meta에 자산 해킹을 도입한 이전 커밋을 되돌림.
- macOS (Apple Silicon 및 Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler 플랫폼용 바이너리 제공.
이 릴리스는 드래프트 모델에 대한 올바른 파라미터 처리를 보장하며 지원되는 하드웨어 아키텍처 전반에 업데이트된 바이너리를 배포합니다.