قام مستخدم بإجراء اختبارات أداء لـ Llama.cpp باستخدام نماذج Qwen3 وQwen3.6 وGemma4 على جهاز MS-02 mini-pc المزود بمعالج Intel Core Ultra 285 ذاكرة وصول عشوائي سعة 64 جيجابايت، مع ملاحظة عدم وجود بطاقة رسومات مخصصة.
- أعطت الاستدلال المعتمد على وحدة المعالجة المركزية فقط أعلى السرعات، حيث وصلت إلى 16.5 رمز في الثانية لـ Qwen3-30B-A3B-Instruct.
- تراوحت أداء الخلفية SYCL بين 8 و12 رمز في الثانية عبر النماذج المختبرة.
- كان أداء الخلفية Vulkan باستخدام وحدة المعالجة المركزية الرسومية المتكاملة أبطأ بكثير، حيث أنتج فقط 0.5 إلى 4 رموز في الثانية.
يخلص المستخدم إلى أن التنفيذ المعتمد على وحدة المعالجة المركزية فقط هو الخيار الأسرع حالياً لهذا التكوين المادي المحدد ويتساءل عن سبب ضعف أداء Vulkan مقارنة بـ SYCL.