llama.cppプロジェクトはバージョンb9935をリリースし、Hexagon DSPでのVISION RoPEのサポートを導入しました。このアップデートには、ストライド付きハーフ次元ビューと非連続な宛先バッファを処理するための特定の変更が含まれています。
- Hexagonプロセッサ用のVISION RoPEサポートを追加。
- すべてのモードでストライド付きハーフ次元ビュー上でRoPEを有効化。
- hex-ropeにおけるsrc0 DMAコピーサイズを行ストライドから分離。
- 非連続な宛先に対するdst spadピッチを修正。
このリリースでは、CPU、GPU、NPUバックエンド向けにmacOS、iOS、Linux、Android、Windows、openEuler向けのバイナリが提供されています。