llama.cpp 프로젝트가 버전 b9874를 출시했으며, 이는 양자화된 타입의 결합을 위한 새로운 CUDA 구현을 도입합니다. 이 업데이트는 라이브러리의 백엔드 기능 개발의 일환입니다.

  • 주요 코드 변경은 양자화된 데이터 타입 결합에 대한 CUDA 지원을 추가하는 것입니다.
  • 이번 릴리스에는 macOS(Apple Silicon 및 Intel), Linux(CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows(CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler용 바이너리가 포함되어 있습니다.
  • 이번 릴리스에는 iOS XCFramework와 독립형 UI 빌드도 제공됩니다.

이 업데이트를 통해 사용자는 b9874 빌드에서 사용할 수 있는 최신 기능과 플랫폼 지원을 이용할 수 있습니다.