一位 Hugging Face 论坛用户寻求指导,了解如何正确发布其研究项目 TIS(Token Importance Scoring),以及相关的代码和文档。

  • 作者开发了 TIS 以解决“迷失在中间”问题以及 Drafter 的内容丢失问题。
  • 该系统作为 KV-cache 压缩器运行,并已在各个类别中通过了 LITM 测试。
  • 用户希望在向 ArXiv 提交之前获得经验丰富的社区成员的验证。