تستكشف ورقة بحثية جديدة استخدام نماذج لغوية كبيرة أساسية (LLMs) لأتمتة تحسين المعاملات الفائقة (HPO)، وهي عملية تعتمد عادةً على أساليب يدوية في إعدادات الميزانية المحدودة. طور المؤلفون منهجية تقترح فيها النماذج LLM تكوينات للمعاملات الفائقة بناءً على وصف مجموعة البيانات والنموذج، والتي يتم بعد ذلك تحسينها تكرارياً وفقًا لأداء النموذج.
- أظهرت التقييمات التجريبية على معايير قياسية أنه ضمن ميزانيات بحث مقيدة، يمكن لنماذج LLM مساواة أو التفوق على طرق HPO التقليدية مثل التحسين البايزي عبر نماذج مختلفة.
- يعامل النهج الكود الذي يحدد النموذج كمعامل فائق، مما يسمح لـ LLM بإنتاجه مباشرة لمرونة أكبر من أساليب HPO الحالية.
تشير هذه الدراسة إلى أن نماذج LLM يمكن أن تكون بدائل فعالة لتقنيات التحسين التقليدية عندما تكون الموارد الحاسوبية محدودة.