أصدر Anassbzdd أداة FitCheck، وهي أداة تقدر متطلبات ذروة VRAM لـ LoRA و QLoRA والضبط الدقيق الكامل للنماذج اللغوية الكبيرة دون الحاجة إلى GPU أو PyTorch. يحلل المقدر ملف config.json الخاص بـ Hugging Face وبيانات تعداد المعلمات للإبلاغ عن تفصيل الذاكرة، والسعة القابلة للاستخدام، والهوامش، وأكبر دفعة دقيقة (micro-batch) مقدرة تتسع.
- يدعم تقديرات التقديم بناءً على أوزان النموذج و KV cache.
- يتضمن مستشارًا لاستكشاف حجم الدفعة، وطول التسلسل، ورتبة LoRA.
- حقق خطأً مطلقًا متوسطه 2.4% عبر 57 تشغيلًا للضبط مقابل قياسات Tesla T4 الحقيقية.
- أنتج 12/12 أحكامًا صحيحة لحدود الملاءمة في اختبار احتياطي منفصل مكون من 12 تشغيلًا.
تساعد الأداة المستخدمين على تحديد ما إذا كانت تكويناتهم تتسع في ذاكرة GPU قبل بدء مهمة LLM، بهدف تقليل التخمين وأخطاء نفاد الذاكرة.