llama.cpp b9965, 작은 텐서에 대한 ARGSORT 성능 개선

llama.cpp 프로젝트가 버전 b9965를 출시했으며, 여기에는 hexagon 백엔드를 통해 작은 텐서에 대한 ARGSORT 연산의 상당한 최적화가 포함되어 있습니다. 이 업데이트는 최대 1024개의 요소를 처리할 수 있는 HVX 레지스터를 사용한 효율적인 bitomic 정렬 구현을 도입합니다.

• 최대 1024개 요소에 대한 HVX 레지스터에서 효율적인 bitomic 정렬 추가.
• hex-sort 모듈의 역전된 VROR 수정.
• 일반적인 경우를 위한 특수화된 정렬 함수 및 트레이싱/로컬 컨텍스트 추가.
• macOS Apple Silicon (arm64) 빌드가 KleidiAI와 함께 이제 비활성화되었습니다.

이 릴리스는 CUDA, Vulkan, ROCm, OpenVINO를 포함한 다양한 CPU 및 GPU 백엔드에 대해 macOS, Linux, Android, Windows, openEuler용 업데이트된 바이너리를 제공합니다.