llama.cpp가 Tencent Hunyuan 3 (hy_v3) 아키텍처 지원 추가

llama.cpp 프로젝트는 GGUF 형식으로 hy_v3로 지정된 Tencent Hunyuan 3 (HYV3ForCausalLM) 모델 아키텍처에 대한 지원을 추가했습니다. 이 업데이트를 통해 사용자는 라이브러리 내에서 이 특정 MoE 디코더 스택을 실행할 수 있습니다.

• 헤드별 Q/K RMSNorm과 전문가 선택 바이어스가 있는 시그모이드 라우터를 포함한 완전한 hy_v3 아키텍처 지원 추가.
• 항상 활성화된 게이트 없는 공유 전문가와 first_k_dense_replace를 통한 주요 밀집 블록 구현.
• charlie12345's 포크에서 포트되었으며 기존 hy_v3 GGUF와의 호환성을 위해 현재 메인라인 API에 적응.

이 변경으로 커뮤니티는 CUDA, ROCm, Vulkan 등의 다양한 하드웨어 백엔드 위에서 macOS, Linux, Windows, Android를 포함한 다양한 플랫폼에서 Tencent Hunyuan 3 모델을 활용할 수 있게 됩니다.