llama.cppプロジェクトは、SYCL関数を通じてAhead-Of-Time (AOT) コンパイルのdouble型問題を修正したバージョンb9898をリリースしました。
このアップデートにより、CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA、HIPバックエンド上で、macOS (Apple SiliconおよびIntel)、iOS、Linux (Ubuntu x64、arm64、s390x)、Android、Windows、openEulerのバイナリが提供されます。なお、今回のリリースではmacOS Apple SiliconでのKleidiAIサポートは無効化されています。
このリリースは、特定ハードウェアアクセラレータやオペレーティングシステムに依存するユーザー向けに、識別されたコンパイルエラーに対処することで互換性を確保します。