llama.cpp b10144 रिलीज में सर्वर और UI से जुड़े महत्वपूर्ण मुद्दों, विशेष रूप से पुनः प्रारंभ करने योग्य स्ट्रीम्स के संदर्भ में सुधार किए गए हैं, जिनमें स्लैश वाले मॉडल नामों के हैंडलिंग को ठीक किया गया है। इसमें मॉडल लोड होने के दौरान अनुरोधों के उचित रूप से रद्द या पुनः प्रारंभ न होने की बग्स भी ठीक की गई हैं।
- पुनः प्रारंभ करने योग्य स्ट्रीम रूट्स को `conv_id` क्वेरी स्ट्रिंग का उपयोग करने के लिए फिर से लिखा गया है, जिससे राउटर मोड में एन्कोडिंग के दौरान स्लैश वाले मॉडल नाम सुरक्षित रहते हैं।
- ऑटोलोड वेट से पहले संवाद को रजिस्टर करके, मॉडल लोड होने के दौरान स्ट्रीम बंद होने पर लंबित अनुरोधों को रद्द किया जाता है।
- क्लाइंट सॉकेट्स से सत्र अनुरोधों को अलग करके और पुनः प्रयासों के लिए 503 रिटर्न करके, मॉडल लोड होने के दौरान पेज रीलोड के बाद स्ट्रीम को फिर से शुरू करने की सुविधा दी गई है।
- लंबित स्ट्रीम स्थिति को सहेजकर, पेज रिफ्रेश के बाद UI में मॉडल लोड प्रगति की दृश्यता को पुनर्स्थापित किया गया है।
इन बदलावों से यह सुनिश्चित होता है कि संवाद क्लाइंट डिस्कनेक्शन और URL एन्कोडिंग मुद्दों के प्रति मजबूत रहें, जिससे मॉडल लोडिंग चरण के दौरान ओरफान्ड अनुरोध और खोए हुए सत्रों से बचा जा सके।