Needpedia के संस्थापक एंथोनी ब्रैशर का तर्क है कि सार्वजनिक रूप से उपलब्ध नॉन-व्हायोलेंट कम्युनिकेशन (NVC) अनोटेटेड ट्रेनिंग डेटा की अनुपस्थिति AI एलाइनमेंट रिसर्च में एक महत्वपूर्ण अंतराल है। वे मॉडल्स को मानवीय भाषा के नीचे मौजूद मोटिवेशनल स्ट्रक्चर को समझने में मदद करने के लिए, न कि केवल एम्पैथी की नकल करने के लिए, एक वास्तविक, मानव-अनोटेटेड कॉर्पस बनाने का प्रस्ताव देते हैं।
- वर्तमान AI सिस्टम "सिफिस्टिकेटेड सycophancy" से ग्रस्त हैं क्योंकि वे कल्याण के बजाय अनुमोदन के लिए ऑप्टिमाइज़ कर रहे हैं।
- MIT और CMU से 5,772-डायलॉग कॉर्पस जैसे मौजूदा संसाधन पूरी तरह से सिंथेटिक हैं, जो GPT-4 द्वारा जनरेट किए गए हैं।
- अन्य हालिया कार्य समर्पित ट्रेनिंग डेटा के बजाय प्रॉम्प्ट इंजीनियरिंग या कंस्ट्रेंट्स पर निर्भर करते हैं।
- प्रस्तावित डेटासेट में OFNR तत्वों और सेल्फ-डिटरमिनेशन थ्योरी श्रेणियों के साथ अनोटेटेड डायलॉग सैंपल शामिल होंगे।
- ब्रैशर 10,000-सैंपल वाले स्टार्टर कॉर्पस के लिए लागत का अनुमान $3,000–$6,000 लगाते हैं।
ब्रैशर NLP, HCI और AI सेफ्टी में शैक्षणिक सहयोगी, साथ ही NVC प्रैक्टिशनर्स की तलाश में हैं, जो प्रस्ताव पर अनोटेशन विशेषज्ञता और फीडबैक प्रदान करने के लिए योगदान दें।