연구자들은 삽입과 삭제 및 수정을 결합하여 세밀한 인스턴스 수준 편집을 가능하게 하고 기존 대규모 데이터 처리 방법의 한계를 해결하도록 설계된 함수 호출 정제 프레임워크인 UltraX를 제안합니다.

  • 이 프레임워크는 데이터셋 적응형 프롬프트 최적화를 활용하여 전문가 LLM이 고품질 엔드투엔드 정제 텍스트를 생성하도록 유도합니다.
  • 라인 얼라인먼트 매핑과 동적 컨텍스트 교체는 원본-정제된 텍스트 쌍을 구조화된 프로그램 슈퍼비전으로 변환합니다.
  • 낮은 신뢰도 예시 필터링과 비율 제어 샘플링은 훈련 분포를 안정화하고 슈퍼비전 품질을 향상시킵니다.
  • 슬라이딩 윈도우 예측, 전역 연산 집계 및 체계적인 사후 처리는 추론 및 실행 중 안정성을 보장합니다.

실험 결과 UltraX가 모든 코퍼스에서 최고 평균 성능을 달성하며 더 적은 훈련 토큰으로 베이스라인과 동등하거나 그 이상의 성능을 보여, 더 강력한 데이터 효율성과 정제 신뢰성을 나타냅니다.