llama.cppプロジェクトはバージョンb10000をリリースしました。これはggmlバックエンドへの重要な更新を含みます。この変更により、すべての畳み込み演算でim2colの出力型とキャストロジックが統一され、im2col_f16などの関数が任意のカーネル型を受け取れるようになりました。

  • ggml内のすべての畳み込み演算でim2colのdst_typeを統一
  • キャストロジックを標準化するためにggml/src/ggml.cを更新
  • 任意のカーネル型を受け入れるようにim2col_f16を修正
  • Apple Silicon、Intel、iOS XCFramework用のmacOS/iOSバイナリが利用可能
  • Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO、SYCL用のLinuxビルドを提供
  • Android arm64 (CPU) バイナリを含める
  • WindowsバイナリはCPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPをサポート
  • ACL Graphサポート付きのx86およびaarch64用のopenEulerビルドが利用可能
  • UIバイナリパッケージもリリースされた