llama.cpp プロジェクトはバージョン b9829 をリリースしました。これには、サーバー、共通コンポーネント、推測的デコーディングモジュールでのログ出力の削減が含まれます。このアップデートでは、CMN_ から COM_ への置換により命名規則が標準化されました。

  • サーバーログが削減され、詳細度制御が改善されました。
  • macOS Apple Silicon ビルドが利用可能ですが、KleidiAI サポートは無効化されています。
  • Linux バイナリは Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16 をカバーします。
  • Windows リリースには CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIP の各バリアントが含まれます。
  • Android arm64 (CPU) および iOS XCFramework バイナリが提供されています。
  • openEuler サポートは x86 では無効化されていますが、ACL Graph 付きで aarch64 で利用可能です。

このリリースにより、開発者はさまざまなオペレーティングシステムとハードウェアアクセラレーター向けに更新されたバイナリを取得でき、最新の CUDA バージョンとの互換性が確保され、サーバー環境でのログノイズが削減されます。