llama.cppプロジェクトはバージョンb9972をリリースし、サーバーコンポーネント内の`exec_shell_command`関数に対してストリーミングを有効化する機能を導入しました。このアップデートには、ストリームの初期化とテストの実装、および関連するドキュメントの更新が含まれています。

  • サーバー: exec_shell_commandのストリーミングを許可 (PR #25526)
  • macOS/iOS: Apple Silicon (arm64)、Intel (x64)、iOS XCFramework用のバイナリが提供されます；KleidiAIサポートは無効化されています。
  • Linux: CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32、SYCL FP16バックエンド向けに、Ubuntu x64、arm64、s390xのビルドが利用可能です。
  • Android: Arm64 CPUバイナリがリリースされました。
  • Windows: バイナリはx64およびarm64アーキテクチャ上でCPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPをサポートします。
  • openEuler: ACL Graphサポート付きのx86およびaarch64向けビルドが利用可能です；標準ビルドは無効化されています。
  • UI: 標準UIバイナリがリリースされました。

このリリースでは、ストリーミング機能をシェルコマンド実行に追加するとともに、さまざまなプラットフォームとハードウェアアクセラレータ向けの更新されたバイナリを提供します。