Cet article soutient que les agents IA exécutent souvent des actions sur la base d'instructions incomplètes en devinant les informations manquantes, un problème qualifié de « défaillance de confirmation pré-exécution ». Il propose une structure imposée au moment de l'exécution qui exige de vérifier les éléments connus et inconnus avant toute action.
- Le problème fondamental n'est pas la règle « si vous avez un doute, demandez », mais le manque de renforcement structurel empêchant l'IA de combler les lacunes.
- Les défaillances de niveau 1 impliquent que l'IA devine et comble les lacunes, tandis que les défaillances de niveau 3 se produisent lorsque les actions ne peuvent pas être confirmées à partir des mots de l'utilisateur.
- La proposition comprend un mécanisme en 12 diapositives conçu pour les fournisseurs d'IA et les développeurs de plateformes d'agents afin de mettre en œuvre des vérifications pré-exécution.
- Cette approche vise à empêcher les agents de créer des accidents en les forçant à faire pause et à vérifier les conditions avant l'exécution.
Les auteurs considèrent cela comme important car il déplace la responsabilité de la vérification de l'intention vers la structure, garantissant que l'IA n'exécute pas d'actions lorsque les informations requises ne sont pas vérifiées.