llama.cpp परियोजना ने बिल्ड b10011 जारी किया, जिसमें सर्वर के प्रॉम्प्ट कैश स्टेट मालिकाना हक का रीफैक्टरिंग शामिल है। यह अपडेट प्रॉम्प्ट स्टेट डेटा को `server_prompt_cache` में ले जाता है और सुनिश्चित करता है कि प्रॉम्प्ट साफ करने पर चेकपॉइंट साफ हो जाएं।
- सर्वर: बैच किए गए स्लॉट के साफ होने का प्रबंधन करें
- macOS/iOS: Apple Silicon (arm64), Intel (x64) और iOS XCFramework के लिए बिल्ड; Apple Silicon पर KleidiAI अक्षम है
- Linux: Ubuntu x64/arm64/s390x CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 के लिए बाइनरी
- Android: arm64 CPU बाइनरी
- Windows: CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और HIP के लिए बाइनरी
- openEuler: 310p और 910b (ACL Graph) के लिए x86 और aarch64 बिल्ड; x86 बिल्ड अक्षम
- UI: मानक UI बाइनरी