llama.cppプロジェクトはバージョンb9957をリリースしました。これはサーバーのツールインフラストラクチャの改善に焦点を当てています。このアップデートでは、`tools_io`抽象化とその基本実装が導入され、同時に`apply_diff`関数が削除されました。

  • 編集ツールの機能性が向上
  • tools_io抽象化とtools_io_basicが追加
  • ユーティリティをクラスメンバに移動し、const修飾子が追加
  • ビルドの問題を修正
  • macOS Apple SiliconのKleidiAIサポートを無効化
  • CPU、GPU、CUDA、Vulkan、ROCm、OpenVINOなどの各種アクセラレータに対応するmacOS、Linux、Android、Windows、openEuler用のバイナリを提供

このリリースにより、サーバー側の機能が更新され、幅広いハードウェアプラットフォーム向けの更新されたバイナリが提供されます。