作者已发布 Trimwise,这是一个开源 Python 库,旨在通过移除不相关内容同时保留与当前问题相关的证据,将源文本适配到特定的上下文预算中。
- 该库支持通过 `atrim` 进行单源裁剪,以及通过 `atrim_context` 进行多源裁剪,后者允许多个源竞争共享的预算。
- 它选择现有的源片段而非生成摘要,并提供溯源信息以便将保留的文本追溯回其输入。
- 默认的词汇路径不需要模型权重或 LLM 推理,但提供可选的基于嵌入的模式用于语义和混合选择。
- 发布的基准测试涵盖特定场景,作者正在寻求关于边缘情况的反馈,例如丢失的限定词、否定或修订的事实。
该工具旨在解决简单截断会丢弃必要上下文这一权衡问题,提供一种在不生成新文本的情况下保留相关证据的方法。