llama.cpp प्रोजेक्ट ने संस्करण b10628 जारी किया है, जिसमें रिमोट प्रोसीजर कॉल (RPC) ट्रांसपोर्ट मেকानिज्म के रूप में Apple RDMA के लिए समर्थन पेश किया गया है।
- Apple RDMA को RPC ट्रांसपोर्ट विकल्प के रूप में जोड़ा गया।
- CR के अनुसार set_tensor माइक्रो ऑप्टिमाइज़ेशन और RPC सोकेट पिनिंग हटाई गई।
- पारदर्शी पुनः कनेक्ट करने की कार्यक्षमता हटाई गई।
- RPC परिवर्तनों पर Apple बिल्ड्स ट्रिगर करने के लिए CI कॉन्फ़िगर किया गया।
- CPU, GPU और विशेष हार्डवेयर बैकएंड्स के लिए macOS, iOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।