llama.cpp 버전 b9716은 효율적인 배치 처리를 통해 모델 성능을 향상시키는 InternVL에 대한 배치 처리 지원을 도입했습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리 빌드가 포함되어 있으며, Vulkan, OpenVINO, SYCL 및 ROCm을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.