llama.cppプロジェクトはビルドb10737をリリースし、qwen4expアーキテクチャのサポートにおける重大なバグを修正しました。このアップデートはシーケンス状態の永続性に関する問題を解決し、モデル読み込み中のCUDAアボートを防止します。
- qwen4expモデルの保存/復元ラウンドトリップ中にkvu NaN崩壊を修正し、ext.x/ext.yインデクサキャッシュデータを復元します。
- per_layer_token_embdの行カウント導出を修正し、PLE再帰的キャッシュレイヤーにおけるヌルポインタ参照を拒否します。
- 実デバイスでNaNロジットやクラッシュを引き起こしていたqwen4expの-smテンソルフラグを無効化します。
- 関数オーバーロードの競合を解決するためにseq_setをseq_get_allに改名し、状態整合性を検証するテストを追加します。
これらの変更により、特に2D mropeコンテンツやPLEレイヤーを使用する場合でも、qwen4expモデルがデータ破損やランタイムエラーなしで読み込みおよび保存可能になります。