DeepSeek-AI telah merilis DeepSeek-V3.2-Exp, sebuah model eksperimental yang memperkenalkan DeepSeek Sparse Attention (DSA) untuk meningkatkan efisiensi pelatihan dan inferensi dalam skenario konteks panjang.

  • Model ini dibangun di atas V3.1-Terminus dengan mengimplementasikan sparse attention berbutir halus untuk pertama kalinya.
  • Model ini mempertahankan kinerja yang setara dengan V3.1-Terminus di berbagai benchmark publik sambil mengoptimalkan efisiensi komputasi.
  • Pembaruan pada 2025.11.17 menyelesaikan ketidaksesuaian Rotary Position Embedding dalam modul indexer yang dapat menurunkan kinerja.
  • Model ini tersedia di bawah Lisensi MIT dengan dukungan day-0 untuk vLLM dan gambar Docker untuk SGLang.

Rilis ini memungkinkan peneliti memvalidasi optimisasi untuk arsitektur transformer yang berfokus pada urutan teks yang diperpanjang.