ggml-orgプロジェクトはllama.cppのバージョンb10774をリリースしました。これにはファインチューニングモジュールでのKVキャッシュ欠落問題の修正が含まれています。

  • 学習コンポーネントは、ファインチューニング操作中にKVキャッシュの使用を正しく処理するようになりました。
  • macOS（Apple SiliconおよびIntel）、Linux（CPU、Vulkan、ROCm、OpenVINO、SYCL対応Ubuntu）、Android、Windows（CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、ROCm対応）、openEuler用のバイナリが提供されています。
  • リリースアセットには、iOS用XCFrameworkとスタンドアロンUIパッケージも含まれています。

このアップデートにより、以前壊れていたキーバリューキャッシュの処理が修正され、ファインチューニングワークフローが正しく機能することが保証されます。