llama.cpp 프로젝트는 gated-delta-net 상태 쓰기백 복사를 융합하기 위한 SYCL 최적화의 포트를 포함하는 버전 b10425를 출시했습니다.
- 이 변경은 교차 A/B 패스로 Qwen 3.6 27B를 실행할 때 Arc Pro B70 하드웨어에서 성능을 약 1.2% 향상시킵니다.
- 프리필 지연(pp2048)은 평탄하게 유지되는 반면, 토큰 생성 속도는 약간 증가합니다.
- 바이너리는 CPU, CUDA, Vulkan, ROCm, OpenVINO 및 SYCL 백엔드에 대해 macOS, Linux, Windows, Android 및 openEuler에서 사용할 수 있습니다.
이 릴리스는 최신 모델 최적화를 지원하기 위해 다양한 플랫폼과 가속기를 위한 업데이트된 빌드를 제공합니다.