Anthropic उपयोगकर्ताओं के कल्याण पर AI के प्रभाव को लेकर स्वतंत्र शोध को वित्त देने के लिए $5 मिलियन का अनुदान कार्यक्रम शुरू कर रहा है। इस पहल में खुले-स्रोत मूल्यांकन बनाने वाले प्राप्तकर्ताओं को सीधे वित्त, मॉडल तक पहुंच और तकनीकी सहायता प्रदान की जाती है, जो उद्योग को उपयोगकर्ता कल्याण पर मॉडल के प्रभाव को मापने में मदद करते हैं।
- प्राप्तकर्ता पूरी तरह से स्वतंत्र रूप से काम करते हैं और डेवलपर उपयोग के लिए खुले-स्रोत परियोजनाएं प्रकाशित करते हैं।
- मूल्यांकन को स्पष्ट रूप से यह बताना चाहिए कि वे क्या माप रहे हैं और डिजाइन व सत्यापन में क्लिनिकल विशेषज्ञों को शामिल करना चाहिए।
- कार्यक्रमों को सावधानियों और हानि दोनों का परीक्षण करना चाहिए, जो ऐसे बहु-चक्र संवादों को दर्शाते हैं जहां जोखिम बढ़ता है।
- आवेदन 21 सितंबर तक दाखिल करने की अंतिम तिथि है, पूर्ण प्रस्ताव सूचनाएं 5 अक्टूबर तक होंगी।
स्वतंत्र बेंचमार्क को वित्त देकर, Anthropic क्लिनिशियन, मनोवैज्ञानिक और विधिशास्त्रियों को आमंत्रित करना चाहता है ताकि भावनात्मक सहायता संदर्भों में AI सुरक्षा के लिए कठोर मानकों का विकास करने में मदद मिल सके।