लेख में डेटा-आवास की बाधाओं और GPU विखंडन को दूर करने के लिए 200 से अधिक आंतरिक अनुप्रयोगों से यातायात को एकल स्व-होस्टेड बड़े भाषा मॉडल पर एकीकृत करने की एक विधि का वर्णन किया गया है। इस दृष्टिकोण ने निर्देशों का पालन, फ़ंक्शन-कॉलिंग और आंतरिक कार्य वितरण में गुणवत्ता के अंतर को दो-चरणीय SLERP के माध्यम से एकीकृत करके प्रत्येक अक्ष के लिए अलग-अलग GRPO विशेषज्ञों को प्रशिक्षित देकर बंद किया।
- गुणवत्ता का ट्रैकिंग उत्पादन यातायात के लिए तहबंदी वाले ऑफ़लाइन मानदंडों का उपयोग करके किया जाता है और निर्धारक सत्यापकों या संरेखित LLM न्यायाधीशों द्वारा स्कोर किया जाता है।
- अलग-अलग GRPO विशेषज्ञ विशिष्ट विफलता मोड को संबोधित करते हैं: अर्थव्यवस्था में पतन, अधिक कॉलिंग और लंबाई चालाकी।
- परिणामी मॉडल आंतरिक मानदंडों पर कुल पैरामीटरों में लगभग 7 गुना बड़े आधार से बेहतर प्रदर्शन करता है।
- विशिष्ट सुधारों में एरीना स्कोर 69.6 बनाम 65.8, निर्देशों का पालन 0.85 बनाम 0.83, और फ़ंक्शन-कॉलिंग 0.79 बनाम 0.77 शामिल हैं।
एकीकृत मॉडल प्लेटफ़ॉर्म यातायात के 50% को अवशोषित करता है, सेवा लागत के एक अंश पर प्रति माह 116 मिलियन अनुरोधों को संभालता है।