美团发布了 LongCat-Flash-Lite-Sparse 的权重，这是其 LongCat-Flash-Lite 模型的一个新变体。此次更新引入了 LongCat Sparse Attention (LSA) 以替换密集的 MLA，并将原生支持的上下文长度扩展至 100 万 token。

  • 使用 LongCat Sparse Attention (LSA) 替换密集的 Multi-Head Latent Attention。
  • 原生支持长达 1M token 的上下文长度，而之前的限制为 256k。
  • 权重现已在 Hugging Face 上提供下载。