El artículo argumenta que los agentes LLM actuales a menudo actúan con una conciencia implícita de las consecuencias, lo cual es insuficiente para tareas consecuentes. Propone la "precognición explícita" como una capa arquitectónica requerida para asegurar que los agentes modelen riesgos y pronostiquen efectos antes de la ejecución.
- El concepto se implementa a través del entorno de ejecución cognitivo ORCA, que utiliza SILÓGOS compuestos por actos cognitivos acotados (COGITs).
- Un SILOGO de pre-vuelo de acción descompone el razonamiento en pasos: normalización de solicitudes, modelado de acciones, identificación de restricciones, extracción de incertidumbre, puntuación de riesgo, pronóstico de consecuencias, generación de alternativas y selección de una decisión.
- Este enfoque se presenta como un proceso ejecutable con contratos intermedios claros en lugar de instrucciones de prompt vagas.
- El autor publicó un artículo titulado "Más allá de la precaución inducida por prompts y las barreras de protección: Cognición pre-acción forzada en tiempo de ejecución para agentes LLM confiables" que detalla esta cognición forzada en tiempo de ejecución.
Los autores consideran esto importante porque los agentes confiables requieren arquitecturas donde el razonamiento crítico pueda ser explícitamente requerido, en lugar de depender únicamente de las capacidades del modelo o los patrones de prompt.