llama.cpp b9830 リリースでは、llama download コマンドで --offline フラグを使用できるようになり、ネットワークアクセスなしでキャッシュされたモデルを検証できます。このアップデートはまた、first_path が参照によって誤ってキャプチャされていた URL タスクの on_done コールバックにおける潜在的な use-after-free 脆弱性も修正します。

  • オフラインでのモデルキャッシュチェックのために既存の --offline フラグを llama download に公開する。
  • ブロックスコープ変数に関連する URL タスクの on_done コールバックでの use-after-free バグを修正する。
  • macOS (Apple Silicon および Intel)、iOS、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、HIP)、および openEuler 用のバイナリを提供する。

このリリースにより、モデル管理のためのより安全なオフラインワークフローが可能になり、ダウンロード機能における重要なメモリ安全性の問題が解決されます。