llama.cpp 프로젝트는 Scalable Matrix Extension (SME) 기능 통합의 중요한 문제를 해결하는 버전 b10051을 출시했습니다. 이 업데이트는 올바른 커널 디스패치를 보장하기 위해 빌드 시간과 런타임 간 SME(v1)와 SME2의 구분을 도입합니다.

  • 이전 버전은 SME를 단일 기능으로 취급하여 SME(v1)만 지원하는 하드웨어에 SME2 전용 명령을 잘못 디스패치했습니다.
  • 수정 사항으로 인해 실제 하드웨어 지원을 기반으로 SME(v1) 및 SME2 커널이 연결되어 SME(v1) 전용 시스템에서 잘못된 실행이 방지됩니다.
  • 바이너리는 macOS (Apple Silicon 및 Intel), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO, SYCL) 및 openEuler에서 사용할 수 있습니다.

이 변경으로 인해 llama.cpp는 CPU가 지원하는 특정 SME 버전을 존중함으로써 더 넓은 범위의 ARM 하드웨어에서 올바르게 실행됨이 보장됩니다.