Выпуск llama.cpp b9830 вводит возможность использования флага --offline с командой llama download, позволяя скриптам проверять закэшированные модели без доступа к сети. Это обновление также устраняет скрытую уязвимость use-after-free в колбэке on_done URL-задачи, где first_path был неверно захвачен по ссылке.

  • Открывает существующий флаг --offline для llama download для проверок закэшированных моделей в автономном режиме.
  • Исправляет ошибку use-after-free в колбэке on_done URL-задачи, связанную с переменными блочной области видимости.
  • Предоставляет бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) и openEuler.

Этот выпуск обеспечивает более безопасные автономные рабочие процессы для управления моделями, одновременно устраняя критическую проблему безопасности памяти в функциональности загрузки.