Proyek llama.cpp telah memperkenalkan operasi baru `GGML_OP_LIGHTNING_INDEXER` di ggml untuk mengimplementasikan indexer petir yang digunakan oleh model DeepSeek V3.2 dan V4.
- Implementasi ini menghapus parameter skala dari operator dan menambahkan parameter masker f16.
- Ini mencakup perbaikan untuk broadcast masker indexer petir dan memeriksa bahwa tensor input tidak ditransposisikan.
- Tes ditambahkan untuk memverifikasi operasi baru, menghitung FLOPs alih-alih bandwidth.
- Komponen `llama` sekarang memanfaatkan operator baru ini untuk model DeepSeek V3.2 dan DeepSeek V4.
Pembaruan ini memungkinkan dukungan inferensi yang efisien untuk arsitektur terbaru DeepSeek dalam kerangka kerja llama.cpp.