يقترح الباحثون التجميع المتوسط الريمانيسي (RMP)، وهي طريقة تستخرج مقاييس السحب العكسي لكل رمز من جاكوبيان المشفر وتجمعها باستخدام متوسط فريهيه على متشعب المصفوفات الموجبة المحددة والمتماثلة. تهدف هذه النهج إلى فهم ما إذا كانت إشارة التصنيف على مستوى الجملة موجودة في الهندسة الريمانية للتضمينات السياقية للرموز.
- يتفوق RMP على التجميع المتوسط الإقليدي عبر ثلاث مجموعات بيانات ذات بنية لغوية غير تافهة: CoLA و CREAK و RTE.
- على FEVER-Symmetric، وهو معيار مصمم لإزالة الآثار المعجمية المدفوعة بالتعليق، تبقى الطريقة بشكل صحيح عند مستوى الصدفة.
- تشير الاختبارات التجريدية إلى أن التهيئة العشوائية المقترنة بالتجميع الفرهييه تتغلب على التجميع الإقليدي في اثنتين من مجموعات البيانات الثلاث الحاملة للإشارة.
- يساهم المشفر المدرب بإشارة إضافية بشكل خاص على CREAK، والتي تم تحديدها كأكثر مجموعة بيانات ثقيلة بالمعرفة بين الثلاث.
تحدد الدراسة مكسب الأداء في طريقة التجميع الهندسي بدلاً من بنية المتشعب المتعلمة، مما يثبت أن الهندسة الريمانية تلتقط إشارات التصنيف بفعالية في تضمينات نماذج اللغة المدربة مسبقاً.