ggml लाइब्रेरी ने प्रति-तत्व मेमोरी कॉपी की जगह पंक्ति-स्तर memcpy ऑपरेशन लगाकर अपनी संयोजन (concat) ऑपरेशन को अनुकूलित किया है। यह बदलाव llama.cpp के b10578 रिलीज का हिस्सा है, जिसमें विभिन्न प्लेटफ़ॉर्म-विशिष्ट बाइनरी और अंतर्निहित कंप्यूटेशन ग्राफ में अपडेट शामिल हैं।
- concat ऑपरेशन में प्रति-तत्व memcpy को पंक्ति-स्तर memcpy से बदलता है।
- नए पंक्ति-स्तर कॉपी तंत्र के लिए concat ऑफसेट ठीक करता है।
- अनावश्यक जाँचों को हटाते हुए concat ब्लॉक साइज assert जोड़ता और स्थानांतरित करता है।
- CPU, GPU और विशेष बैकएंड्स के लिए macOS, Linux, Windows, Android और openEuler के लिए बिल्ड प्रदान करता है।