llama.cpp プロジェクトはバージョン b9833 をリリースし、MiniCPM5 モデル専用のパーサーをはじめとする各種バグ修正とリファクタリングを導入しました。このアップデートには、ツール呼び出しのパーシング対応、文法の簡略化、Jinja2 基準との互換性を確保するための Jinja API の動作修正が含まれます。

  • XML ツール呼び出し対応とストリーミングツール引数のプレースホルダー修正を含む、専用の MiniCPM5 PEG パーサーを実装。
  • MiniCPM5 にオートパーサーを使用するようチャットモジュールをリファクタリングし、共有マッパーと履歴フォールバックを元に戻しました。
  • Jinja2 仕様に合わせて jinja min/max API を修正し、テンプレート名を openbmb-MiniCPM5-1B.jinja に更新。
  • macOS (Apple Silicon, Intel)、iOS、Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL)、Android、Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP)、openEuler 用のバイナリを提供。

このリリースにより、ユーザーは幅広いハードウェアアーキテクチャとオペレーティングシステム上で、改善されたツール呼び出し機能付きの MiniCPM5 モデルを実行できるようになります。