llama.cpp b9969, Adreno에서 긴 프롬프트용 Vulkan 행렬 곱 연산 충돌 수정

llama.cpp 프로젝트가 버전 b9969을 출시하여 Vulkan 백엔드의 치명적인 안정성 문제를 해결했습니다. 이 업데이트는 Adreno GPU에서 큰 행렬 곱 연산을 중간 타일로 라우팅하여, 공유 메모리 부족으로 인해 q4_0 양자화된 네트워크와 긴 프롬프트 크기에서 발생하던 충돌을 해결합니다.

• Vulkan 행렬 곱 연산에서 공유 메모리 사용량을 최적화하여 긴 프롬프트에서 llama-cli가 깨지는 문제를 수정합니다.
• 사용하지 않는 Adreno 장치 코드를 제거하고 작은 파이프라인 행렬 곱 연산 구현을 업데이트합니다.
• macOS Apple Silicon 빌드에 대한 KleidiAI 지원을 비활성화합니다.
• Ubuntu(CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows(CPU, CUDA 12/13, Vulkan, HIP, SYCL), macOS, iOS, Android, openEuler에 대한 바이너리를 제공합니다.

이 릴리스는 더 큰 컨텍스트 윈도우를 가진 Adreno 장치에서 안정적인 추론을 보장하고 광범위한 하드웨어 백엔드 간 호환성을 유지합니다.