llama.cpp 프로젝트는 `prop.integrated` 장치 속성을 올바르게 처리하기 위한 수정 사항을 포함하는 빌드 b10040을 출시했습니다. 이전에는 Jetson Orin 장치의 손상된 출력에 대한 우회 방법으로 모든 CUDA/HIP 장치에 대해 이 플래그를 무조건 false로 설정하여 AMD APU/UMA 부품에서 통합 GPU 호스트 버퍼 사용을 깨뜨리는 불일치를 초래했습니다.

  • 수정 사항으로 인해 Jetson 우회 방법이 보호되어 비HIP(CUDA) 빌드에만 적용됩니다.
  • HIP 빌드의 경우, 코드가 이제 `hipDeviceProp_t`에서 `prop.integrated`를 복원하여 AMD 통합 그래픽에서 `supports_buft()`가 CUDA 호스트 버퍼를 올바르게 수락하도록 합니다.
  • 이는 ROCm에서의 깨진 통합 GPU 지원에 대한 이슈 #23977을 해결합니다.

이번 릴리스는 macOS(Apple Silicon 및 Intel), Linux(CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows(CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler에 대한 바이너리를 제공합니다.