llama.cpp プロジェクトはビルド b10048 をリリースしました。これには Phi3、Bert、Plamo2/3、および ChatGLM モデルの修正が含まれています。

  • Phi3、Bert、Plamo2/3、および ChatGLM アーキテクチャの問題を修正しました。
  • このビルドでは macOS Apple Silicon の KleidiAI サポートが無効になっています。
  • openEuler ビルドは x86 および aarch64 アーキテクチャで利用可能で、910b ACL Graph サポートが含まれます。
  • Windows バイナリには、既存の CUDA 12.4 オプションに加えて CUDA 13.3 サポートが含まれるようになりました。
  • Ubuntu(CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL)、Android arm64、および macOS Intel のためのビルド済みバイナリが提供されています。

このリリースでは、指定されたモデルアーキテクチャとの互換性を確保するために、さまざまなプラットフォームとハードウェアアクセラレータ用の更新されたバイナリが提供されます。