컴파일 타임 인덱싱 최적화를 추가한 llama.cpp b9941 릴리스

llama.cpp 프로젝트가 버전 b9941을 출시했습니다. 이 버전은 인덱싱에 컴파일 시간만 의존하고 곱셈/더하기 연산을 항상 수행하도록 변경되었습니다.

이 접근 방식은 컴파일러의 로컬 메모리 최적화에 의존하는 것을 피하며, 제어 흐름 문을 발행하는 것보다 비용이 적게 듭니다. 이번 릴리스는 macOS (Apple Silicon 및 Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler용 바이너리를 제공합니다.

이 업데이트는 플랫폼 간 일관된 인덱싱 동작을 보장하고 제어 흐름 오버헤드를 줄여 성능을 최적화합니다.