Выпуск llama.cpp b9830 вводит возможность использования флага --offline с командой llama download, позволяя скриптам проверять закэшированные модели без доступа к сети. Это обновление также устраняет скрытую уязвимость use-after-free в колбэке on_done URL-задачи, где first_path был неверно захвачен по ссылке.
- Открывает существующий флаг --offline для llama download для проверок закэшированных моделей в автономном режиме.
- Исправляет ошибку use-after-free в колбэке on_done URL-задачи, связанную с переменными блочной области видимости.
- Предоставляет бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) и openEuler.
Этот выпуск обеспечивает более безопасные автономные рабочие процессы для управления моделями, одновременно устраняя критическую проблему безопасности памяти в функциональности загрузки.