AINekko और AIFoundry समुदाय के सदस्यों द्वारा दायर किए गए एक पुल रिक्वेस्ट ने llama.cpp इनफरेंस इंजन के लिए एक प्रारंभिक बैकएंड पेश किया, जिससे Esperanto Technologies ET-SOC-1 प्रोसेसर का समर्थन सक्षम हो जाता है। योगदानकर्ता इस विकास को अपस्ट्रीम करके ओपन सोर्स हार्डवेयर को ओपन सोर्स इनफरेंस इकोसिस्टम में एकीकृत करने का लक्ष्य रखते हैं।
ET-SOC-1 प्रोसेसर मूल रूप से Esperanto Technologies द्वारा बनाया गया था और बाद में AINekko द्वारा Apache 2.0 लाइसेंस के तहत ओपन सोर्स किया गया। कोर RTL CORE-ET रिपॉजिटरी के माध्यम से उपलब्ध है, जबकि SDK और ड्राइवर et-platform रिपॉजिटरी में होस्ट किए गए हैं। हालांकि ET-SOC-1 आधुनिक CPU की तुलना में कम निरंतर प्रदर्शन वाला एक पुराना लो-पावर चिप है, लेकिन यह ARM R7 7700 डेवलपमेंट मशीन जैसे उपकरणों की तुलना में प्रति वाट बेहतर प्रदर्शन प्रदान करता है।
यह योगदान llama.cpp फ्रेमवर्क के भीतर बड़े भाषा मॉडल चलाने के लिए ओपन सोर्स हार्डवेयर के उपयोग को सुगम बनाता है।