llama.cppプロジェクトはバージョンb10004をリリースし、VulkanとCPUバックエンドの両方でSET_ROWS操作のソースとしてf16の完全なサポートを導入しました。このアップデートには、追加のバックエンドテストとIntelハードウェアに対する特定の問題修正も含まれています。

  • VulkanおよびCPUバックエンドにf16 SET_ROWS（f32と同等）の完全なサポートを追加。
  • Intelプロセッサでの失敗に対処するため、サポートされている場合はDenormPreserve 16を設定。
  • エラー閾値を調整し、Metal supports_opを更新。
  • CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL、HIPバックエンド向けにmacOS、Linux、Android、Windows、openEulerのバイナリを提供。

このリリースは、特定のバックエンド操作における精度処理を改善し、新しいバイナリ配布によりプラットフォーム対応範囲を拡大しました。