يكشف التقييم المنهجي لاستهلاك الطاقة في استدلال Vision-Language Model (VLM) على الجهاز عبر خمسة نماذج ومنصتي عتاد أن عنق الزجاجة الرئيسي للطاقة هو توليد الإخراج بدلاً من الإدراك البصري. تنقض الدراسة الافتراض الشائع بأن تقليل الرموز البصرية هو الاستراتيجية الأكثر فعالية للكفاءة، وتوضح بدلاً من ذلك أن التحكم في طول الإخراج أمر حاسم لتوفير الطاقة.
- تظل طاقة الاستدلال المتوسطة ثابتة جوهرية للنموذج مع تقلب أقل من 5٪ بغض النظر عن دقة الإدخال أو تعقيد الصورة.
- يتطلب كل رمز إخراج وقتاً فعلياً أكثر بـ 11 إلى 39 مرة من كل رمز إدخال بسبب عدم التماثل في الحساب والذاكرة بين مرحلتي prefill و decode.
- يسبب تعقيد الصورة، المقاس بعدد الكائنات، فروقاً في الطاقة تصل إلى 4.1 مرات فقط من خلال تباينات طول الإخراج وليس تكلفة المعالجة البصرية.
- يوفر تقليم الرموز البصرية ما يصل إلى 10٪ من إجمالي الطاقة للنماذج ذات الرموز الثابتة، بينما يمكن للتحكم في طول الإخراج توفير ما يصل إلى 97٪ عبر نماذج تتراوح بين مليار و8 مليارات معلمة.
تشير هذه النتائج إلى أن عنق الزجاجة الحقيقي للطاقة في استدلال VLM على الحافة يتحدد بما يولده النموذج بدلاً مما يدركه، مما يبرز الحاجة إلى إعطاء الأولوية لكفاءة فك التشفير بدلاً من تقليل الرموز البصرية.