llama.cpp 버전 b9699는 PR #24721을 통해 Q1_0 정밀도로 MUL_MAT 및 OUT_PROD 연산에 대한 지원을 도입했습니다. 이번 릴리스에는 SYCL(FP32 및 FP16), Vulkan, CUDA, ROCm, OpenVINO을 포함한 다중 아키텍처 및 가속 프레임워크를 위한 macOS, Linux, Android, Windows, openEuler용 사전 컴파일된 바이너리가 포함되어 있습니다.
llama.cpp b9699 릴리스, SYCL 지원 및 다중 플랫폼 바이너리 추가
번역 English → 한국어