llama.cppプロジェクトはバージョンb9915をリリースし、CPU f16-to-f16のGGML_OP_SET_ROWS操作のサポートを導入しました。このアップデートには、この操作に対する欠落していた型チェックが含まれ、f32とf16の計算フォワード関数が単一の処理にマージされました。

  • ggmlが追加された型チェック付きでCPU f16->f16 GGML_OP_SET_ROWSサポートを追加
  • ggml_compute_forward_set_rows_f32()とggml_compute_forward_set_rows_f16()がggml_compute_forward_set_rows_impl()にマージ
  • アサーションがGGML_ASSERT()に置き換えられました
  • macOS Apple Silicon (arm64)、macOS Intel (x64)、およびiOS XCFrameworkバイナリが提供されます
  • LinuxビルドにはUbuntu x64、arm64、s390x CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16バリアントが含まれます
  • Android arm64 (CPU)バイナリが利用可能です
  • Windowsビルドはx64およびarm64 CPU、OpenCL Adreno、CUDA 12.4および13.3、Vulkan、OpenVINO、SYCL、HIPをカバーします
  • openEulerは910bチップ向けにACL Graph付きでx86とaarch64をサポート

このリリースでは、新しいセット行機能が必要なユーザー向けに、複数のプラットフォームとハードウェアアクセラレーター全体で更新されたバイナリが提供されます。