저자들은 템플릿 기반 대조적 합성에서 후보들이 몇몇 엔티티 슬롯에서만 차이나고 시퀀스 수준 최적화가 공유 템플릿에 감독을 분산시키는 해상도 불일치 문제를 다룹니다. 그들은 도메인 지식 그래프 위에서 스키마 제약 경로를 열거하고 슬롯 정렬된 대조적 후보로 구문화하는 방법 KARMA를 제안합니다.

  • 시스템은 Slot-Parallel Alignment (SPA) 를 사용하여 분리된 슬롯 수준 목적을 적용하고, 선호도 감독을 판별적인 엔티티 슬롯으로 라우팅합니다.
  • 슬롯 인식 마스크드 어텐션은 옵션인 패킹 평가 구현으로 포함됩니다.
  • KARMA는 생명공학, 컴퓨터 과학, 화학 벤치마크에서 기본 LLM 및 동일 데이터 SFT 기반보다 우수합니다.
  • 이 접근 방식은 기존 시퀀스 및 토큰 수준 선호도 방법과 비교하여 우월한 결과를 보입니다.

KARMA는 감독이 후보를 구분하는 특정 엔티티로 향하도록 보장함으로써 대조적 합성의 효과를 향상시킵니다.