EPO दावों जैसी सांविधिक रूप से प्रतिबंधित पाठ को संभालने वाले वितरित LLM शेड्यूलर्स में मेमोरी की कमी के कारण होने वाले क्रैश को रोकने के लिए CPU-साइड लिंग्विस्टिक रिसोर्स फोरकास्टिंग (LRF) गेटवे का प्रस्ताव दिया गया है। 16-आयामी टेक्स्ट-संरचना वेक्टर निकालकर और एक XGBoost प्रेडिक्टर लागू करके, सिस्टम GPU मेमोरी आवंटन से पहले कार्यभार फँसाव की पूर्वानुमान लगाता है।
6,000 अनुरोधों वाले लाइव परीक्षण में, LRF गेटवे ने ऑपरेशनल मिस्टरूट हिस्से को 0.087–0.095 तक कम कर दिया, जो टोकन-गिनती आधार रेखा 0.849 से काफी कम है। प्रेडिक्टर ने 0.84 का AUROC हासिल किया, जबकि गतिशील रूटिंग थ्रेशोल्ड ने स्थिर थ्रेशोल्ड की तुलना में मिस्टरूट में 8.2% सापेक्ष कमी दी। WAN विलंबता में 27x विविधता के बावजूद पीक एज VRAM 4.82 GiB पर सीमित रहा।
सिस्टम अनुरोधों को या तो स्थानीय Qwen2.5-7B वर्कर या NVIDIA H100 पर एक रिमोट एनसेंबल की ओर रूट करता है, जिससे लिंग्विस्टिक अस्पष्टता के तहत हार्डवेयर स्थिरता सुनिश्चित होती है।