llama.cpp b9938 リリースは、ggml-hip バックエンドを更新し、-funsafe-math-optimizations コンパイラフラグを有効にしました。これにより、AMD/HIP ビルドで従来 CUDA に限定されていた高速数学最適化を利用可能になります。
この変更により、より厳格な -ffast-math フラグに関連する NaN の問題やコンパイル失敗を引き起こすことなく、AMD ハードウェアの速度向上が実現します。リリースには、macOS (Apple Silicon および Intel)、Linux (CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL)、Android、Windows (CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler 用のバイナリが含まれています。
この更新により、マスキング操作の数値安定性を維持しつつ、NVIDIA と AMD バックエンド間の最適化機能の同等性が確保されます。