llama.cpp 프로젝트는 양자화된 결합 연산에 대한 텐서 연속성 요구사항을 완화하는 변경 사항을 포함한 버전 b10025를 출시했습니다.

  • 핵심 업데이트는 CUDA 백엔드와 하위 ggml 라이브러리를 수정하여 양자화된 결합 동안 비연속 텐서를 허용합니다.
  • 비연속 양자화된 결합 입력으로 기능을 검증하기 위해 테스트 케이스가 추가되었습니다.
  • macOS (Apple Silicon 및 Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler에 대한 바이너리가 제공됩니다.

이 릴리스는 빌드 환경을 업데이트하고 양자화 연산에 대한 특정 텐서 처리 제약사항을 수정합니다.