एक उपयोगकर्ता ने Intel Arrow Lake iGPU के साथ Llama.cpp का बेंचमार्किंग रिपोर्ट किया है, यह पाते हुए कि SYCL GPU बैकएंड्स में सबसे अच्छा प्रदर्शन प्रदान करता है जबकि Vulkan मुख्य रूप से असरगार है।
- Vulkan समर्थन को टूटा हुआ या अत्यंत धीमा बताया गया है, Qwen3.6 मॉडल पर केवल 0.5 tok/s और Gemma-4 पर 4 tok/s प्राप्त करता है।
- SYCL Qwen3.6 35B मॉडल को 8-12 tok/s पर चलाता है, प्रिफिल स्पीड लगभग 20 tok/s के आसपास होती है, हालांकि फ्रीजिंग जैसे स्थिरता मुद्दे होते हैं।
- केवल CPU निष्पादन सबसे संगत विकल्प बना हुआ है, उसी हार्डवेयर पर जनरेशन के लिए 14 tok/s और प्रिफिल के लिए 30-40 tok/s प्रदान करता है।
परिणाम सुझाव देते हैं कि हालांकि SYCL iGPU का उपयोग कर सकता है, यह वर्तमान में CPU इनफरेंस की तुलना में केवल नगण्य लाभ प्रदान करता है और विश्वसनीयता मुद्दों से पीड़ित है।