Sur le rôle de la directionnalité dans la généralisation structurelle

L'article présente un backend symbolique redessiné pour AM-Parser qui utilise des types dirigés CCG pour mieux gérer les distinctions directionnelles dans les tâches de généralisation structurelle, comme les décalages de position des modificateurs.

• Le système utilise le CKY déterministe et un seul décodeur linéaire avec 30K paramètres apprenables.
• Il atteint une correspondance exacte LF de 75,9±6,4 %, surpassant le score précédent d'AM-Parser de 70,8±4,3 %.
• Les gains sont fortement directionnels, le système CCG surpassant AM-Parser sur les 5 catégories de décalage de position par +29,9pp.
• Le remplacement de l'encodeur BERT-base par DeBERTa-v3-large donne 90,7±4,9 %, déplaçant le goulot d'étranglement vers la couche neurale.

Cette approche démontre que les représentations directionnelles améliorent la généralisation structurelle, en particulier pour les tâches de décalage de position, tandis que les gains complémentaires issus des encodeurs plus grands adressent les catégories de profondeur récursive.