llama.cpp b10817 रिलीज़ ने डेवलपर्स को डिवाइस मेमोरी आवंटन पैटर्न को समझने में मदद करने के लिए एक नई SYCL मेमोरी ट्रैसिंग सुविधा पेश की है। यह कार्यक्षमता दो नए पर्यावरण चरों द्वारा नियंत्रित होती है जो मेमोरी उपयोग का विस्तृत लॉगिंग अनुमत करते हैं।
- GGML_SYCL_MEMTRACE=1 सेट करने से प्रति-साइट मेमोरी उपयोग प्रदर्शित होता है, केवल तभी अपडेट होता है जब आवंटन 64MiB से अधिक बढ़ते हैं।
- GGML_SYCL_MEMTRACE=2 सेट करने से प्रत्येक व्यक्तिगत आवंटन और डिअलोकेशन घटना को लॉग किया जाता है।
- डिफ़ॉल्ट रिपोर्टिंग थ्रेशोल्ड को GGML_SYCL_MEMTRACE_STEP चर का उपयोग करके अनुकूलित किया जा सकता है।
यह टूल्स मेमोरी से संबंधित समस्याओं के डीबगिंग में सहायता करने के लिए है और --fit एल्गोरिदम को बेहतर बनाने के लिए पहले से ही उपयोगी साबित हो चुका है।