AdaPrefix-GRPO समूप सापेक्ष नीति अनुकूलन (GRPO) में विलुप्त होने वाले ग्रेडिएंट की समस्या को हल करता है, जो प्रशिक्षण समस्याओं के साथ संलग्न सही समाधानों के प्रीफिक्स की लंबाई को गतिशील रूप से समायोजित करके। 50% के करीब सफलता दर बनाए रखकर, विधि सुनिश्चित करती है कि ग्रेडिएंट संकेत मजबूत रहे, अंततः सहायता वापस ले लेता है ताकि तैनात मॉडल बिना किसी मदद के समस्याओं को हल कर सके।
- मेल खाते प्रशिक्षण FLOPs के साथ कठिन गणित कार्यों पर, AdaPrefix-GRPO 0.6B मॉडल के लिए GRPO सटीकता को दोगुना से अधिक बढ़ा देता है (2.1x लाभ)।
- यह Qwen3-1.7B पर 1.6x सुधार और AIME बेंचमार्क्स पर 1.7x सुधार हासिल करता है।
- विधि केवल डेटा तैयारी परिवर्तनों और प्रीफिक्स टोकन पर एक हानि मास्क लागू करते हुए ट्रेस लंबाई को लगभग आधा कर देती है।
विधि छोटे मॉडल के लिए विशेष रूप से प्रभावी है, जो अंतर्निहित प्रशिक्षक में कोई संशोधन किए बिना महत्वपूर्ण सटीकता लाभ प्रदान करती है।