llama.cpp प्रोजेक्ट ने बिल्ड b9971 जारी किया, जिसमें `server_stream` फंक्शनलिटी का रीफैक्टरिंग शामिल है। यह अपडेट गैर-थ्रेड-सुरक्षित `rd.stop()` कॉल को हटाकर और `server_res_spipe` को स्थानांतरित करके थ्रेड सुरक्षा को संबोधित करता है। रिलीज़ में सुधारे गए API को दर्शाने के लिए डेवलपर दस्तावेज़ भी अपडेट किए गए हैं।

  • `server_stream` का रीफैक्टरिंग किया और `server_http_res` से `spipe` हटाया
  • गैर-थ्रेड-सुरक्षित `rd.stop()` कॉल को हटाया और `server_res_spipe` को स्थानांतरित किया
  • सुधारे गए server-stream API के लिए डेव डॉक्स अपडेट किए
  • macOS Apple Silicon (arm64, KleidiAI सक्षम) बिल्ड्स अक्षम कर दिए गए
  • CPU, GPU और AI एक्सेलेरेटर बैकएंड्स के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी प्रदान किए गए

रिलीज़ सर्वर स्ट्रीमिंग घटक में थ्रेड सुरक्षा सुनिश्चित करती है जबकि व्यापक प्लेटफ़ॉर्म समर्थन बनाए रखती है।