llama.cpp प्रोजेक्ट ने बिल्ड b10293 जारी किया, जिसमें gfx1151 आर्किटेक्चर के लिए AMD ROCm निरंतर एकीकरण शामिल है और RDNA3.5 GPU पर सटीकता की समस्याओं को हल किया गया है।
- डीबग.assert में इंटीग्रेटेड-GPU होस्ट आउटपुट बफर्स को अनुमति देकर gfx1151 पर test-recurrent-state-rollback को ठीक किया।
- mmap से लोड किए गए वजन के साथ GPU सहसंबंध समस्याओं को पार करने के लिए एकजुट मेमोरी सक्षम करके RDNA3.5 पर इनफरेंस सटीकता को पुनर्स्थापित किया।
- HIP पथ में एसींक-एक्जीक्यूशन त्रुटियों को हल करने के लिए HIP_LAUNCH_BLOCKING=1 का उपयोग करके कर्नेल लॉन्च को सीरियलाइज़ किया।
- असमर्थित ऑपरेशन और गलत आउटपुट के कारण HIP बैकएंड पर jamba आर्किटेक्चर टेस्ट और top-k सबटेस्ट को छोड़ दिया गया।
यह अपडेट ROCm के माध्यम से AMD RDNA3.5 हार्डवेयर पर llama.cpp मॉडल की विश्वसनीय टेस्टिंग और इनफरेंस सक्षम करता है।