FitCheck هو أداة جديدة تقدّر متطلبات VRAM الذروة لتقنيات LoRA وQLoRA والضبط الكامل لنماذج اللغة الكبيرة دون الحاجة إلى PyTorch أو CUDA أو عتاد GPU فعلي.
- تحلل ملف config.json الخاص بالنموذج على Hugging Face وبيانات عدد المعلمات لتقديم تفصيل للذاكرة، والسعة القابلة للاستخدام، والهوامش، وحكم التوافق.
- تدعم الأداة تقديرات الاستناد إلى أوزان النموذج وخازق KV، بالإضافة إلى مستشار لاستكشاف حجم الدفعة، وطول التسلسل، ورتبة LoRA.
- أظهرت الاختبارات على Tesla T4 خطأً مطلقًا متوسطه 2.4% عبر 57 تشغيل معايرة، وأنتجت 12 من 12 حكمًا صحيحًا لحدود التوافق في اختبار احتياطي منفصل.
تساعد الأداة المستخدمين على تحديد ما إذا كان تكوين نموذج اللغة الكبير (LLM) الخاص بهم سيعمل ضمن ذاكرة GPU قبل بدء المهمة، بهدف تقليل التخمين وأخطاء نفاد الذاكرة.