llama.cpp b9830 릴리스는 llama download 명령어와 함께 --offline 플래그를 사용할 수 있는 기능을 도입하여, 스크립트가 네트워크 접근 없이 캐시된 모델을 확인할 수 있게 합니다. 이 업데이트는 URL 작업의 on_done 콜백에서 first_path가 참조로 잘못 캡처되어 발생했던 잠재적인 use-after-free 취약점도 해결합니다.

  • 오프라인 모델 캐싱 확인을 위해 기존 --offline 플래그를 llama download에 노출함.
  • 블록 범위 변수와 관련된 URL 작업의 on_done 콜백에서 use-after-free 버그를 수정함.
  • macOS(Apple Silicon 및 Intel), iOS, Linux(CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows(CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), openEuler용 바이너리를 제공함.

이 릴리스는 다운로드 기능의 치명적인 메모리 안전 문제를 해결하면서 모델 관리를 위한 더 안전한 오프라인 워크플로우를 가능하게 합니다.