Survei ini menangani sifat intensif memori dari sistem penyajian model bahasa besar (LLM) dengan berfokus pada infrastruktur cache kunci-nilai (KV) yang sadar sistem, disingkat sebagai sKis. Ini mengorganisir upaya yang ada ke dalam tiga dimensi: eksekusi dan penjadwalan (temporal), penempatan dan migrasi (spasial), serta representasi dan retensi (struktural).
Para penulis menganalisis afinitas desain bersama lintas-perilaku dan tautan perilaku-tujuan untuk menyoroti peluang masa depan dalam desain cache KV.
Karya ini mensistematisasikan area yang berkembang pesat, menyediakan dasar untuk memahami dan berinovasi dalam desain cache KV di infrastruktur penyajian LLM modern.