Pendiri Needpedia mengusulkan dataset NVC anotasi manusia untuk mengatasi sifisme AI

Anthony Brasher, pendiri Needpedia, berargumen bahwa ketiadaan data pelatihan bertanda Nonviolent Communication (NVC) yang tersedia secara publik merupakan celah kritis dalam penelitian keselarasan AI. Ia mengusulkan pembuatan korpus nyata yang dianotasi oleh manusia untuk membantu model memahami struktur motivasi di balik bahasa manusia daripada sekadar mensimulasikan empati.

• Sistem AI saat ini menderita "sifisme canggih" dengan mengoptimalkan persetujuan alih-alih kesejahteraan.
• Sumber daya yang ada seperti korpus dialog 5.772 dari MIT dan CMU sepenuhnya sintetis, dihasilkan oleh GPT-4.
• Karya terbaru lainnya mengandalkan rekayasa prompt atau batasan daripada data pelatihan khusus.
• Dataset yang diusulkan akan mencakup sampel dialog yang dianotasi dengan elemen OFNR dan kategori Teori Determinasi Diri.
• Brasher memperkirakan biaya untuk korpus pemula 10.000 sampel sebesar $3.000–$6.000.

Brasher mencari kolaborator akademik di bidang NLP, HCI, dan keamanan AI, serta praktisi NVC, untuk berkontribusi keahlian anotasi dan umpan balik atas proposal tersebut.