연구자들은 기존 대규모 데이터 처리 방법의 한계를 삽입을 삭제 및 수정과 함께 도입하여 해결하도록 설계된 함수 호출 정제 프레임워크인 UltraX를 제안합니다. 이 접근 방식은 텍스트 쌍을 구조화된 프로그램 감독으로 변환하는 신뢰할 수 있는 프로그램-감독 생성 파이프라인을 통해 세분화된 인스턴스 수준 편집을 가능하게 합니다.
- 이 프레임워크는 데이터셋 적응형 프롬프트 최적화를 활용하여 전문가 LLM이 고품질 엔드투엔드 정제 텍스트를 생성하도록 유도합니다.
- 라인 어라이먼트 매핑과 동적 컨텍스트 교체는 원래-정제된 텍스트 쌍을 구조화된 프로그램 감독으로 변환합니다.
- 낮은 신뢰도 예외 필터링 및 연산 조합에 의한 비율 제어 샘플링은 감독 품질을 향상시키고 훈련 분포를 안정화합니다.
- 슬라이딩 윈도우 예측, 전역 연산 집계 및 체계적인 후처리는 실행 중 모델 출력을 정규화하고 검증합니다.
실험 결과 UltraX가 모든 코퍼스에서 최고 평균 성능을 달성하며 더 적은 훈련 토큰으로 베라인과 동등하거나 그 이상의 성능을 보여줌으로써 더 강력한 데이터 효율성과 정제 신뢰성을 나타내는 것이 입증되었습니다.