Shehab Anwer는 모델 생성 텍스트에 의존하는 대신 에이전트가 코드를 작성하고 검증 가능한 프로그래매틱 솔버를 반복적으로 개선하여 Chain-of-Thought (CoT) 데이터셋을 생성하는 파이프라인인 Agent-ProSAT를 오픈소스로 공개했습니다.

  • 시스템은 자기 수정 루프를 사용하여 정답과 홀드아웃 샘플에 대한 논리적 타당성을 검증합니다.
  • NVIDIA의 Nemotron Reasoning Challenge에서 '앨리스 in 원더랜드' 논리 퍼즐을 사용하여 공간적 및 논리적 제약 조건을 테스트하는 벤치마킹이 수행되었습니다.
  • 이 접근 방식은 프로그래매틱 검토를 통해 SFT/RL 파이프라인에서의 환각 위험을 줄이고 토큰 활용률을 개선하는 것을 목표로 합니다.

저자는 코드베이스, 파인튜닝용 Kaggle 노트북, 그리고 Hugging Face의 결과 ProSAT CoT 데이터셋을 공유했습니다.