تقترح هذه الورقة منهج قص هيكلي محسّن للنماذج اللغوية الكبيرة يتكيف مع الاحتفاظ بالميزات التكيفي (AFR) للتغلب على تحديات درجات القص غير المتجانسة، وفقدان معلومات الإشارة، وتأثير القيم الشاذة.
يجمع النهج بين تحويل القوة لمحاذاة التوزيع غير الخطي، وتجميع الدرجات مع الحفاظ على الإشارة، وإزالة القيم الشاذة بناءً على النسب المئوية. تُظهر التجارب على Llama-3-8B و Vicuna-v1.5-13B و LLaVA-v1.5-13B أن الطريقة تحافظ على دقة قابلة للمقارنة مع القص غير الهيكلي بينما تحقق تسريعًا عمليًا في الاستدلال.
يعتقد المؤلفون أن هذا مهم لأنه يمكّن القص الهيكلي من الاحتفاظ بمزايا الدقة الخاصة بتقنيات القص غير الهيكلي مع توفير مكاسب كفاءة الاستدلال الكامنة في التفرغ الهيكلي.