يتناول هذا المسح الطبيعة المكثفة للذاكرة في أنظمة خدمة نماذج اللغات الكبيرة (LLM) من خلال التركيز على بنية ذاكرة التخزين المؤقت للمفتاح والقيمة (KV) الواعية بالنظام، المختصرة باسم sKis. ينظم الجهود الحالية في ثلاثة أبعاد: التنفيذ وجدولة العمليات (زمني)، التوطين والنقل (مكاني)، والتعبير والاحتفاظ (هيكلي).

يحلل المؤلفون تقارب التصميم المشترك عبر السلوكيات وروابط الهدف-السلوك لإبراز الفرص المستقبلية في تصميم ذاكرة التخزين المؤقت KV.

يقوم هذا العمل بتوحيد المجال المتطور بسرعة، ويوفر أساسًا لفهم وابتكار تصاميم ذاكرة التخزين المؤقت KV في بنية خدمة نماذج اللغات الكبيرة الحديثة.