llama.cpp 프로젝트는 빌드 b10517을 출시하며 플래시 어텐션(FA) 디쿼안타이즈 경로에 대한 Vulkan 전용 개선을 도입했습니다. 주요 변경 사항에는 coopmat1에서 q8_0 KV를 한 번 디쿼안타이즈하고, coopmat2에서 FA 디쿼안타이즈 경로를 건너뛰며, Intel Xe1을 FA 디쿼안타이즈 경로에서 제외하는 것이 포함됩니다.

  • FA scratch가 maxStorageBufferRange를 초과할 때 Vulkan은 중단하는 대신 폴백합니다.
  • 이 릴리스는 FA 디쿼안타이즈 경로에 특정 KV-cache 레이아웃이 필요합니다.
  • FA 경로의 순열 체크가 강화되었고 prealloc_x_need_sync 타이밍이 수정되었습니다.
  • 연속 할당된 K/V FA 시나리오에 대한 테스트가 추가되었습니다.

이 업데이트는 메모리 관리 및 하드웨어 호환성의 엣지 케이스를 처리하여 Vulkan 사용자의 안정성과 성능을 향상시킵니다.