يقدم الباحثون WattGPU، وهو أداة تتميز بنموذجين تنبؤيين لسحب طاقة وحدة معالجة الرسومات المتوسط وزمن الوصول بين الرموز (ITL) يعملان بدون تعريف الأجهزة. يستفيد النهج فقط من بيانات اللغات الكبيرة المتاحة للجمهور ومواصفات وحدات معالجة الرسومات للتعميم على وحدات معالجة رسومات خادم من NVIDIA ونماذج لغات كبيرة غير مرئية.
- تم التقييم على 42 نموذج لغة كبير مفتوح المصدر (0.1B--27B معلمة) و8 وحدات معالجة رسومات باستخدام التحقق المتقاطع leave-one-GPU-out وleave-one-LLM-out.
- يحقق نموذج سحب الطاقة المتوسط خطأً مطلقًا وسطيًا بنسبة ≤3.4% للوضع غير المتصل و≤13.5% لسيناريوهات الخادم على وحدات معالجة رسومات غير مرئية.
- يحقق نموذج زمن الوصول خطأً ≤8.5% في وضع الخادم، مع الحفاظ على ارتباطات قوية لترتيب وحدات معالجة الرسومات (Kendall τ≥0.76).
- يقلل الخطأ المطلق الوسيط بنسبة حوالي 4× مقارنة بأساسيات Load-Scaled Thermal Design Power وroofline لسيناريوهات الخادم.
يمكن WattGPU المشغلين من مطابقة نماذج لغات كبيرة محددة مع وحدات معالجة رسومات أكثر كفاءة دون تعريف كل تركيبة بشكل شامل، مما يعالج نقص الأدوات لتحسين استهلاك الطاقة في مراكز البيانات.