llama.cpp b10361リリースは、読み込み時のパラメータ順序の誤りによりLGAI-EXAONE 4.5モデルでSliding Window Attention (SWA)が無効になっていた重大なバグを修正します。
- モデルローダーは、`hparams.n_layer()`と`LLM_KV_NEXTN_PREDICT_LAYERS`の読み込み順序を修正することで、EXAONE 4.5 GGUFファイルを正しく処理し、SWAが適切に有効化されるようにしました。
- モデル構築用のメタデータ専用パスでは、`TENSOR_SKIP`でマークされたテンソルをスキップし、nextn/MTPレイヤーを使用するアーキテクチャにおけるnullバッファ型によるアサーション失敗を防ぎます。
- EXAONE 4のhparams順序をカバーするテストが追加され、修正により`swa_type`がNONEではなくSTANDARDに正しく設定されることを確認しました。
この更新により、公式のLGAI-EXAONE GGUFリリースがスライディングウィンドウアテンションと正常に連携し、nextn/MTPレイヤーを持つモデルをメタデータ専用パスで構築できるようになります。