Le fondateur de Needpedia propose un jeu de données NVC annoté par des humains pour contrer la sycope de l'IA

Anthony Brasher, fondateur de Needpedia, soutient que l'absence de données d'entraînement annotées en Communication NonViolente (CNV) accessibles au public constitue une lacune critique dans la recherche sur l'alignement de l'IA. Il propose de créer un corpus réel annoté par des humains pour aider les modèles à comprendre la structure motivationnelle sous-jacente au langage humain plutôt que de simplement simuler l'empathie.

• Les systèmes d'IA actuels souffrent d'une « sycope sophistiquée » en optimisant l'approbation au détriment du bien-être.
• Les ressources existantes, comme un corpus de 5 772 dialogues issu du MIT et du CMU, sont entièrement synthétiques, générées par GPT-4.
• D'autres travaux récents reposent sur l'ingénierie de prompts ou des contraintes plutôt que sur des données d'entraînement dédiées.
• Le jeu de données proposé inclurait des échantillons de dialogues annotés avec les éléments OFNR et les catégories de la Théorie de l'Autodétermination.
• Brasher estime le coût d'un corpus starter de 10 000 échantillons entre 3 000 et 6 000 dollars.

Brasher cherche des collaborateurs académiques en NLP, HCI et sécurité de l'IA, ainsi que des praticiens de la CNV, pour contribuer à l'expertise d'annotation et fournir des retours sur la proposition.