Les chercheurs proposent UltraX, un cadre d'affinage par appel de fonction conçu pour pallier les limites des méthodes existantes de traitement de données à grande échelle en introduisant l'insertion conjointement avec la suppression et la modification. Cette approche permet une édition au niveau de l'instance avec une granularité fine grâce à un pipeline de génération de supervision programmatique fiable qui convertit les paires de textes en supervision structurée.
- Le cadre utilise une optimisation de prompt adaptative aux jeux de données pour guider un LLM expert dans la production de textes affinés de bout en bout de haute qualité.
- La cartographie d'alignement des lignes et le remplacement dynamique du contexte convertissent les paires de textes originaux/affinés en supervision programmatique structurée.
- Le filtrage des exemples à faible confiance et l'échantillonnage contrôlé par ratio via la combinaison des opérations améliorent la qualité de la supervision et stabilisent la distribution d'entraînement.
- La prédiction à fenêtre glissante, l'agrégation globale des opérations et le post-traitement systématique normalisent et valident les sorties du modèle pendant l'exécution.
Les expériences démontrent qu'UltraX atteint les meilleures performances moyennes sur tous les corpus tout en égalant ou surpassant les méthodes de référence avec moins de tokens d'entraînement, indiquant une efficacité des données et une fiabilité de l'affinage supérieures.