llama.cpp 프로젝트는 Xe-LPG Plus, Xe2 및 Xe3 아키텍처의 split k 경로에 대한 Vulkan 기반 flash attention 최적화 커널을 도입한 빌드 b11111을 출시했습니다.
- Vulkan에서 split k 경로용 Intel FA 커널 최적화 추가.
- split k FA 커널 경로 선택을 처리하도록 호스트 코드 업데이트.
- flash_attn_decode_phase_1 셰이더에서 대칭 coopMatMulAdd()를 사용하여 A770 Linux 연산자 테스트 실패 수정.
- flash_attn_decode_phase_2.comp 파일의 editorconfig 문제 해결.
이 업데이트는 Intel Arc GPU에 대한 최적화된 추론 기능을 제공하고 Linux 시스템의 특정 드라이버 호환성 문제를 해결합니다.