llama.cpp b10361 릴리스는 로딩 중 잘못된 파라미터 순서로 인해 LGAI-EXAONE 4.5 모델에서 슬라이딩 윈도우 어텐션(SWA)이 활성화되지 않는 치명적인 버그를 해결합니다.

  • 모델 로더가 이제 `hparams.n_layer()`와 `LLM_KV_NEXTN_PREDICT_LAYERS`의 읽기 순서를 수정하여 EXAONE 4.5 GGUF 파일을 올바르게 처리하고, SWA가 적절히 활성화되도록 보장합니다.
  • 모델을 구성하기 위한 메타데이터 전용 경로는 이제 `TENSOR_SKIP`으로 표시된 텐서를 건너뛰어, nextn/MTP 레이어를 사용하는 아키텍처에서 널 버퍼 유형으로 인한 어설션 실패를 방지합니다.
  • EXAONE 4 hparams 순서를 다루는 테스트가 추가되어, 수정이 `swa_type`을 NONE이 아닌 STANDARD로 올바르게 설정하는지 확인했습니다.

이 업데이트는 공식 LGAI-EXAONE GGUF 릴리스가 슬라이딩 윈도우 어텐션과 함께 올바르게 작동하도록 보장하고, nextn/MTP 레이어가 있는 모델을 메타데이터 전용 경로를 통해 구성할 수 있게 합니다.