DeepSeek lanza DeepSeek-V3.2-Exp con Atención Escasa para eficiencia en contextos largos

DeepSeek-AI ha lanzado DeepSeek-V3.2-Exp, un modelo experimental que introduce DeepSeek Sparse Attention (DSA) para mejorar la eficiencia de entrenamiento e inferencia en escenarios de contexto largo.

• El modelo se basa en V3.1-Terminus implementando por primera vez atención escasa a nivel fino.
• Mantiene un rendimiento comparable al de V3.1-Terminus en benchmarks públicos mientras optimiza la eficiencia computacional.
• Una actualización del 2025.11.17 resolvió una discrepancia en el Rotary Position Embedding en el módulo del indexador que podría degradar el rendimiento.
• El modelo está disponible bajo una Licencia MIT con soporte day-0 para vLLM e imágenes de Docker para SGLang.

Este lanzamiento permite a los investigadores validar optimizaciones para arquitecturas de transformadores enfocadas en secuencias de texto extendidas.