llama.cpp 프로젝트는 Metal 백엔드의 연산 퓨션 패턴을 단일 테이블로 통합했으며, 이는 그래프 최적화기와 연산 인코더 모두에서 공유됩니다. 이 변경은 토큰 생성 속도에 ~5%의 성능 저하를 유발했던 절대 출력 인덱스 버그도 수정합니다.
- 모든 퓨션 가능한 연산 패턴은 이제 ggml-metal-fuse.cpp에서 한 번만 선언되어 최적화 단계와 계산 단계 간 일관성을 보장합니다.
- 절대 그래프 노드 인덱스에 대한 수정으로 퓨션 패턴의 마지막 노드가 사용 횟수 검사에 잘못 적용되는 것을 방지하여 norm/MUL 퓨션을 복원했습니다.
- 새로운 지원 기능으로 gating_delta_net 커널이 캐시 복사 연산과 퓨션되어 스냅샷을 KV 캐시 버퍼에 직접 작성할 수 있습니다.
- 'raw' 퓨션 플래그는 패턴별 콜백이 유일한 안전성 검증자임을 명확히 하기 위해 'unsafe'로 이름이 변경되었습니다.
- 새로운 임시 API는 NMSE를 통해 퓨션된 로짓과 비퓨션된 로짓을 비교하는 회귀 테스트 스위트와 함께 백엔드 독립적인 퓨션 통계를 제공합니다.
이러한 업데이트는 퓨션 로직을 통합하여 코드 유지보수성을 개선하고, 이전 버전의 침묵하는 퓨션 실패로 인한 성능 손실을 복원합니다.