llama.cppプロジェクトはバージョンb10035をリリースし、CPU、GPU、および特殊なハードウェアバックエンド向けにmacOS、Linux、Windows、Android、openEulerのバイナリを提供しました。

  • 主な技術的変更は、CUDAにおける__byte_permを通じたQ1_0要素の抽出です(PR #25628)。
  • macOS/iOS Apple Silicon上のKleidiAIサポートが無効化されました。
  • openEulerビルドはx86およびaarch64アーキテクチャ向けに利用可能で、910bチップ向けのACL Graphサポートを含みます。
  • Windowsバイナリには、既存のCUDA 12.4に加えてCUDA 13.3、ならびにHIPとSYCLのサポートが含まれるようになりました。

このリリースでは、特定のハードウェア最適化によるコードベースの更新と、さまざまなオペレーティングシステムおよびアクセラレータタイプ向けの更新されたバイナリが提供されました。