NVIDIA बताता है कि AI प्रदर्शन तीन आयामों पर निर्भर करता है: सटीकता, थ्रूपुट और इंटरैक्टिविटी। कंपनी जोर देती है कि व्यावहारिक सिस्टम को एकल मेट्रिक्स पर ध्यान केंद्रित करने के बजाय इन कारकों को एक साथ अनुकूलित करना चाहिए।
- यदि मॉडल प्रतिक्रियाएं धीमी हैं, तो उच्च सटीकता असरकारी नहीं है।
- यदि उपयोगकर्ता अनुभव में विलंबता से प्रभावित होता है, तो कच्चा थ्रूपुट कम मूल्य प्रदान करता है।
- मॉडल-डिज़ाइन चयन थ्रूपुट और इंटरैक्टिविटी दोनों को सीधे प्रभावित करते हैं।
- प्रभावी प्रदर्शन सुनिश्चित करने के लिए तैनाती को तीनों आयामों का संतुलन करना आवश्यक है।