llama.cpp परियोजना ने बिल्ड b10328 जारी किया है, जिसने Docker का उपयोग करके सर्वर घटक के भीतर टूल्स को अलग करने के लिए प्रारंभिक समर्थन पेश किया है। इस अपडेट में टूल I/O सैंडबॉक्स को अलग करने और प्रासंगिक कॉन्फ़िगरेशन फ्लैग को पुनः नामित करने के लिए दस्तावेज़ीकरण और कोड अनुकूलन शामिल हैं।
- सर्वर: Docker के माध्यम से प्रारंभिक टूल अलगाव समर्थन जोड़ता है (PR #26507)
- दस्तावेज़ीकरण को अपडेट करता है और get_info कार्यक्षमता को अनुकूलित करता है
- Python टाइप चेकिंग समस्याओं को ठीक करता है
- tools_io_sandbox को tools_io_docker से अलग करता है
- sandbox को isolate में और x-tool-docker को x-tool-runtime में पुनः नामित करता है
रिलीज़ में CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL और OpenCL सहित विभिन्न हार्डवेयर बैकएंड के लिए macOS, Linux, Windows, Android और iOS के लिए बाइनरी प्रदान की गई हैं।