Les agents LLM peuvent-ils développer une précognition ?

L'article soutient que les agents LLM actuels agissent souvent avec une conscience implicite des conséquences, ce qui est insuffisant pour les tâches consécutielles. Il propose la « précognition explicite » comme une couche d'architecture requise pour garantir que les agents modélisent les risques et prévoient les effets avant l'exécution.

• Le concept est implémenté via le runtime cognitif ORCA, qui utilise des SYLLOGs composés d'actes cognitifs bornés (COGITs).
• Un SYLLOG de pré-volition d'action décompose le raisonnement en étapes : normalisation des requêtes, modélisation des actions, identification des contraintes, extraction de l'incertitude, évaluation du risque, prédiction des conséquences, génération d'alternatives et sélection d'une décision.
• Cette approche est présentée comme un processus exécutable avec des contrats intermédiaires clairs plutôt que des instructions de prompt vagues.
• L'auteur a publié un article intitulé « Beyond Prompted Caution and Guardrails: Runtime-Enforced Pre-Action Cognition for Trustworthy LLM Agents » détaillant cette cognition imposée par le runtime.

Les auteurs considèrent cela comme important car les agents dignes de confiance nécessitent des architectures où le raisonnement critique peut être explicitement requis, plutôt que de s'appuyer uniquement sur les capacités du modèle ou les motifs de prompt.