Энтони Брашер, основатель Needpedia, утверждает, что отсутствие общедоступных обучающих данных с разметкой ненасильственного общения (ННВ) является критическим пробелом в исследованиях выравнивания ИИ. Он предлагает создать реальную корпусную базу с человеческой разметкой, чтобы помочь моделям понимать мотивационную структуру, лежащую в основе человеческого языка, а не просто симулировать эмпатию.
- Современные системы ИИ страдают от «изощренной лести», оптимизируясь на получение одобрения вместо благополучия.
- Существующие ресурсы, такие как корпус из 5772 диалогов от MIT и CMU, полностью синтетические, сгенерированные GPT-4.
- Другие недавние работы полагаются на промпт-инжиниринг или ограничения, а не на выделенные обучающие данные.
- Предлагаемый датасет будет включать образцы диалогов с разметкой элементов OFNR и категорий теории самодетерминации.
- Брашер оценивает стоимость стартового корпуса из 10 000 образцов в 3000–6000 долларов.
Брашер ищет академических коллег в области NLP, HCI и безопасности ИИ, а также практиков ННВ, которые могли бы внести вклад в разметку и предоставить обратную связь по предложению.