コンパイル時インデックス化最適化を追加した llama.cpp b9941 リリース

llama.cpp プロジェクトはバージョン b9941 をリリースしました。これは、インデックス付けにコンパイル時のみを使用し、乗算/加算演算を常に実行するように変更したものです。

このアプローチは、コンパイラによるローカルメモリ最適化への依存を避け、制御フロー文を発行するよりも低コストです。本リリースでは、macOS (Apple Silicon および Intel)、iOS、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、OpenCL、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、openEuler 用のバイナリが提供されています。

この更新により、プラットフォーム間で一貫したインデックス動作が保証され、制御フローのオーバーヘッドを削減することでパフォーマンスが最適化されます。