llama.cppプロジェクトはバージョンb9922をリリースし、再帰型モデル用に`split_equal`関数に新しい`n_keep_tail`パラメータを導入しました。

  • macOS Apple Silicon (arm64) のバイナリが利用可能です。
  • macOS Intel (x64) のバイナリが提供されています。
  • iOS XCFrameworkが含まれています。
  • Ubuntu x64 および arm64 のCPUビルドがリリースされました。
  • Ubuntu Vulkan、ROCm 7.2、OpenVINO、SYCL FP32、および SYCL FP16 バリアントが利用可能です。
  • Android arm64 CPUバイナリが提供されています。
  • Windows x64 および arm64 のCPUビルドがリリースされました。
  • Windows CUDA 12.4、CUDA 13.3、Vulkan、OpenVINO、SYCL、および HIP ビルドが利用可能です。
  • ACL Graph サポート付きの openEuler x86 および aarch64 ビルドが含まれています。
  • スタンドアロンUIパッケージが提供されています。

このリリースでは、llama.cpp のバイナリ配布が複数のプラットフォームとハードウェアアクセラレータにわたって更新されました。