llama.cpp प्रोजेक्ट ने संस्करण b10519 जारी किया, जिसमें सर्वर के नींद हैंडलिंग तंत्र का एक महत्वपूर्ण पुनर्गठन शामिल है। इस बदलाव से सर्वर के नींद की स्थिति में रहने के दौरान /metrics एंडपॉइंट को सुलभ बनाए रखने की अनुमति मिलती है।

  • on_sleeping_state तर्क का पुनर्गठन किया और मेट्रिक्स और स्लॉट कार्यों/परिणामों को विभाजित किया।
  • कैश किए गए प्रतिक्रियाएँ जोड़ीं और मेट्रिक्स कार्य टाइमर में एक रेस कंडीशन ठीक की।
  • get_res_model_info ठीक किया और दस्तावेज़ीकरण अपडेट किया।
  • macOS (Apple Silicon/Intel), Linux (CPU, Vulkan, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, ROCm), Android, और openEuler के लिए बाइनरी प्रदान की गईं।