llama.cpp 项目发布了构建版本 b11273,引入了对重排序模型中 `classifier_pooling` 方法的支持,专门针对 ModernBERT 架构。

  • 该更新修改了 `load_hparams`,以从模型配置中读取分类器池化类型。
  • 转换逻辑现在将接受的 `classifier_pooling` 值限制为仅 'cls' 和 'mean'。
  • 内部参数名称 `classifier_pooling_type` 已重命名为 `pooling_type_cls` 以提高清晰度。
  • 如果配置中未明确指定特定类型,ModernBERT 模型会回退到均值池化。

此更改使用户能够通过尊重其特定的池化要求,在 llama.cpp 中正确加载和利用 ModernBERT 重排序器。