एन्थ्रोपिक अपने फ्रंटियर मॉडल का स्वतंत्र मूल्यांकन और रेड-टीमिंग करने के लिए एक्सेंचर के विशेषज्ञ AI व्यवसाय के साथ साझेदारी कर रहा है। यह पहल एन्थ्रोपिक के कंपनी के भीतर मूल्यांकनकर्ताओं को शामिल करने के प्रतिबद्धता का समर्थन करती है, जिससे वे मॉडल विकास की निगरानी और सुरक्षा प्रतिबद्धताओं की पुष्टि कर सकें।
- इस भागीदारी में मॉडल का मूल्यांकन, एलाइनमेंट आकलन और सुरक्षा उपायों का परीक्षण शामिल है।
- दोनों कंपनियां अगले पांच वर्षों में इस क्षेत्र में कम से कम 1 अरब डॉलर निवेश करने की उम्मीद करती हैं।
- एम्बेडेड मूल्यांकनकर्ताओं को प्रशिक्षण प्रक्रियाओं का अवलोकन और अंधेरे बिंदुओं की पहचान करने के लिए कर्मचारियों के समान पहुंच प्राप्त होगी।
- एन्थ्रोपिक भविष्य के मूल्यांकनकर्ताओं के लिए अन्य वित्त पोषण व्यवस्थाओं का अन्वेषण करते हुए एक्सेंचर के काम को सीधे वित्त पोषित करेगा।
यह दृष्टिकोण इस बात की जाँच करने योग्य बनाने का लक्ष्य रखता है कि मॉडल कैसे बनाए और तैनात किए जाते हैं, हालांकि ऐसे एम्बेडेड मूल्यांकन के लिए मानक अभी भी विकसित हो रहे हैं।