PIVOT (Proxy Indexing Via One full-prefix Traversal) adalah pengganti langsung tanpa pelatihan untuk pengindeks DeepSeek Sparse Attention (DSA) yang mengurangi redundansi komputasi dengan membagikan satu pemindaian awalan di sekelompok kueri terdekat. Alih-alih memberi skor setiap token pendahulu untuk setiap kueri secara individual, PIVOT menggabungkan grup menjadi satu kueri proksi untuk mendapatkan kumpulan kandidat, dari mana top-k token dipilih untuk setiap kueri.

  • Dua varian ditawarkan: PIVOT-Reuse membagikan top-k proksi untuk kecepatan maksimum, sedangkan PIVOT-Refine memberi skor ulang kandidat dengan pengindeks individual agar sesuai dengan kesetiaan pengindeks padat.
  • Algoritma ini menangani fase prefill dan decode dengan membentuk grup kueri berturut-turut atau langkah prediksi multi-token secara berurutan.

Pada DeepSeek-V3.2 dan GLM-5.1 di LongBench dan RULER, PIVOT menyamai akurasi pengindeks DSA padat sambil mempercepatnya hingga 4x dan mengurangi latensi end-to-end hingga 1.6x pada konteks panjang.