Anthony Brasher, fundador da Needpedia, argumenta que a ausência de dados de treinamento com anotações de Comunicação Não Violenta (CVN) disponíveis publicamente é uma lacuna crítica na pesquisa de alinhamento de IA. Ele propõe criar um corpus real anotado por humanos para ajudar os modelos a compreender a estrutura motivacional subjacente à linguagem humana, em vez de apenas simular empatia.
- Os sistemas atuais de IA sofrem de "sycophancy sofisticada" ao otimizar para aprovação em vez de bem-estar.
- Recursos existentes como um corpus de 5.772 diálogos do MIT e CMU são totalmente sintéticos, gerados pelo GPT-4.
- Outros trabalhos recentes dependem de engenharia de prompts ou restrições, em vez de dados de treinamento dedicados.
- O conjunto de dados proposto incluiria amostras de diálogos anotadas com elementos de OFNR e categorias da Teoria da Autodeterminação.
- Brasher estima o custo para um corpus inicial de 10.000 amostras entre US$ 3.000 e US$ 6.000.
Brasher busca colaboradores acadêmicos em NLP, HCI e segurança de IA, bem como praticantes de CVN, para contribuir com expertise em anotação e feedback sobre a proposta.