Shehab Anwer a ouvert le code d'Agent-ProSAT, un pipeline qui génère des ensembles de données de Chaîne de Pensée (CoT) en faisant coder à un agent et améliorer itérativement des solveurs programmatiques vérifiables plutôt que de s'appuyer sur du texte généré par le modèle.

  • Le système utilise des boucles d'auto-correction pour valider la solidité logique par rapport à la vérité terrain et aux échantillons retenus.
  • Il a été évalué sur le Défi de Raisonnement Nemotron de NVIDIA en utilisant des énigmes logiques d'« Alice au pays des merveilles » pour tester les contraintes spatiales et logiques.
  • L'approche vise à réduire les risques d'hallucination et à améliorer l'utilisation des tokens dans les pipelines SFT/RL par une revue programmatique.

L'auteur partage la base de code, un notebook Kaggle pour le fine-tuning et l'ensemble de données ProSAT CoT résultant sur Hugging Face.