llama.cpp प्रोजेक्ट ने संस्करण b10955 जारी किया, जिसमें ggml-ccpu बैकएंड के भीतर हीप करप्शन के लिए एक महत्वपूर्ण सुधार शामिल है। अपडेट में प्रीकंपाइल्ड हेडर (PCH) को अक्षम किया गया है और मेमोरी सुरक्षा मुद्दों को हल करने के लिए एक अस्पष्ट CACHE_LINE_SIZE परिभाषा को हटा दिया गया है।

  • ggml-cpu PCH को अक्षम करने से प्राकृतिक इंक्लूड क्रम बहाल होता है, यह सुनिश्चित करते हुए कि ops.h को हार्डवेयर हस्तक्षेप हेडरों से पहले प्रोसेस किया जाए।
  • std::hardware_destructive_interference_size शाखा को हटाने से CACHE_LINE_SIZE निर्धारक और इंक्लूड क्रम से स्वतंत्र हो जाता है।
  • सुधार ने एक असंगति को हल किया जहाँ C++ kernels ने 256-बाइट कैश लाइनों का उपयोग किया जबकि C कोड ने 64-बाइट फॉलबैक का उपयोग किया, जिससे पहले rope वर्क बफर्स का आकार अपर्याप्त था।
  • यह सुधार buffer size असंगति के कारण ggml_compute_forward_rope_flt में हीप-बफर-ओवरफ्लो क्रैश को रोकता है।

रिलीज में macOS (Apple Silicon और Intel), Linux (x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL), Android, और openEuler प्लेटफार्मों के लिए बाइनरी प्रदान की गई हैं।