AI मॉडल रेडार एक विधि प्रकाशित करता है जो यह गणना करने के लिए कि 46 ट्रैक किए गए ओपन-वेट्स मॉडल विशिष्ट हार्डवेयर पर फिट होते हैं या नहीं, सामान्य लोककथा नियमों को अस्वीकार करता है जो चार या चाली गुना तक गलत हो सकते हैं। साइट मापे गए GGUF वजन आकारों का योग, कॉन्फ़िगरेशन फ़ाइलों से संदर्भ कैश अंकगणित और रनटाइम ओवरहेड को जोड़कर फिट निर्धारित करती है, साथ ही स्लाइविंग विंडो और मल्टी-हेड लैटेंट एटेंशन जैसे हाइब्रिड एटेंशन तंत्रों को ध्यान में रखती है।
- शार्ड-स्प्लिटिंग त्रुटियों से बचने के लिए वजन पैरामीटर गणनाओं के बजाय प्रकाशित बाइट आकारों से लिए जाते हैं।
- संदर्भ कैश कॉन्फ़िगरेशन.json में स्पष्ट रूप से उल्लिखित लेयर प्रकार (पूर्ण बनाम स्लाइविंग-विंडो) और हेड आयामों का उपयोग करके गणना किया जाता है।
- मानक GPU के लिए 12% सुरक्षा मार्जिन रखा गया है, जबकि macOS बाधाओं के कारण Apple Silicon एकत्रित मेमोरी का 70% उपयोग करता है।
- RTX 3060 12 GB के लिए, विश्लेषण दिखाता है कि 8K संदर्भ पर 14 मॉडल फिट होते हैं और 32K संदर्भ पर 10; Qwen3 14B को 8K पर भी ऑफलोडिंग की आवश्यकता होती है।
लेखक गति या गुणवत्ता स्कोर प्रकाशित करने से मना करते हैं, उपयोगकर्ताओं को अनुमान लगाए बिना हार्डवेयर संगतता निर्धारित करने में मदद करने के लिए केवल पुनरुत्पादन योग्य मेमोरी फिट डेटा पर ध्यान केंद्रित करते हैं।