تقوم ورقة بحثية حديثة بعنوان "استنتاج نماذج اللغات الكبيرة في الأطراف: مقايضات كفاءة الأداء للهاتف المحمول، ومعالج المعالجات العصبية (NPU)، وكارت الشاشة تحت حمل مستمر" بتقييم أداء نماذج اللغات الكبيرة عبر أربع منصات عتادية مميزة. تقيس الدراسة نموذج Qwen-2.5-1.5B 4bit باستخدام محركات استنتاج مختلفة لكل جهاز لتقييم معدل الإنتاجية، وزمن الاستجابة، والاستقرار الحراري.
- أظهر RPi5-Hailo أداءً الأكثر اتساقاً بمعامل اختلاف قدره .04% وبدون أي خفض للأداء، رغم معاناته من زمن استجابة مرتفع (72 ثانية لـ 564 رمزاً) بسبب حدود عرض نطاق PCIe وزمن الاتصال بين وحدة المعالجة المركزية ومعالج المعالجات العصبية.
- حقق iPhone 16 Pro أفضل معدل رموز في الثانية للهواتف الذكية لكنه واجه عدم استقرار في التكرارات الأولية والنهائية، حيث انخفض من حوالي 42 رمزاً/ثانية إلى 23-24 رمزاً/ثانية بسبب النشاط الحراري.
- تطلب S24 Ultra استخدام حشو مقسم لإدارة ذروات الموارد؛ ورغم أنه حافظ على استقرار حراري بمتوسط 64 +/- 1.9 درجة مئوية، إلا أنه وصل إلى حد أدنى للتردد مما تسبب في زمن فك تشفير قدره 56 ثانية لـ 646 رمزاً.
- قدم كارت شاشة الحاسوب المحمول المزود بشريحة 4050 أفضل أداء شامل رغم تجاوز قدرة التصميم الحراري، بمتوسط استهلاك طاقة للنظام قدره 34 واط.
يلاحظ المراجع قيود الدراسة، بما في ذلك الاستخدام غير المتسق لمعاملات الاختلاف للمقارنة ومعايير الطاقة المتفاوتة التي لا تعزل استخدام المكونات.