llama.cpp 프로젝트는 MUSA (MTT S5000) 연산자 실패 및 빌드 문제에 대한 수정 버전을 출시했으며, 이는 PH1 아키텍처를 대상으로 합니다. 이 업데이트는 이 하드웨어에서 잘못된 결과나 타임아웃을 유발하던 중대한 버그를 해결합니다.
- sm_70+ 대상에 대한 16바이트 복사 너비 유도를 수정하여 FlashAttention 성능을 수정.
- MUSA에서 CUB 경로를 활성화하여 ARGSORT 및 TOP_K 연산의 제한을 해제.
- cuBLAS/dequant 경로로 전환하여 양자화된 행렬 곱셈 실패를 유발하던 MMQ 결함을 해결.
- 모든 warp에 대해 블록 배리어가 도달 가능하도록 보장하여 fused TOPK_MOE 커널 정지를 수정.
- GATED_DELTA_NET 연산자 지원을 활성화하여 prefill 및 decode 처리량을 크게 개선.
이러한 변경 사항은 Qwen3.8-27B와 같은 모델을 실행하는 MTT S5000 사용자의 완전한 기능성을 복원하고 성능을 향상시킵니다.