أصدرت Multiverse ورقةً تفصّل منهجاً يعيد صياغة تقليم نماذج اللغات الكبيرة كمشكلة تحسين ثنائية مقيدة مُخاطبة إلى زجاج إيزينغ. ومن خلال معاملة كتل المحوّل على أنها لفّات ذات اقترانات زوجية مُشتقة من هيسيان الخسارة، يحدد هذا النهج تكوينات الإزالة المثلى للكتل دون الحاجة إلى معايرة تكرارية.
- تحسب الطريقة مصفوفة هيسيان مرة واحدة على مجموعة بيانات معايرة لالتقاط التفاعلات بين الكتل، مما يسمح باستخدام حسابات الطاقة كبدائل لجودة النموذج.
- تستخدم المحلّلات الكلاسيكية والمُلهَمة من الحوسبة الكمومية لإيجاد حالات منخفضة الطاقة في فضاء التكوين، مما يتيح البحث عن مليارات التركيبات بكفاءة.
- على Llama-3.3-70B-Instruct عند ضغط بنسبة 50٪، تحقق الطريقة مكسباً يقارب 23 نقطة مئوية على MMLU مقارنةً بأفضل أساس لإزالة الكتل.
- يتعمّم النهج ليشمل معماريات غير متجانسة مثل NVIDIA-Nemotron-3-Nano-30B-A3B-FP8، حيث يتفوق على الأسس من خلال تحديد أنماط إزالة غير متتالية.
يجادل المؤلفون بأن استكشاف الحالات المثارة منخفضة الطاقة بدلاً من الحالة الأرضية فقط غالباً ما ينتج نماذج مقومة أفضل، لا سيما في أوضاع الضغط العميق حيث تكون تفاعلات الكتل حاسمة.