Agentes LLM podem desenvolver precognição?

O artigo argumenta que os agentes LLM atuais frequentemente agem com uma consciência implícita das consequências, o que é insuficiente para tarefas consequenciais. Propõe a "precognição explícita" como uma camada arquitetural necessária para garantir que os agentes modelam riscos e preveem efeitos antes da execução.

• O conceito é implementado por meio do runtime cognitivo ORCA, que utiliza SILÓGOS compostos por atos cognitivos limitados (COGITs).
• Um SILÓGIO de pré-voo de ação decomõe o raciocínio em etapas: normalização de solicitações, modelagem de ações, identificação de restrições, extração de incerteza, pontuação de risco, previsão de consequências, geração de alternativas e seleção de uma decisão.
• Esta abordagem é apresentada como um processo executável com contratos intermediários claros, em vez de instruções de prompt vagas.
• O autor publicou um artigo intitulado "Além da cautela induzida por prompts e das barreiras de proteção: Cognição pré-ação forçada em tempo de execução para agentes LLM confiáveis" detalhando essa cognição forçada em tempo de execução.

Os autores consideram isso importante porque agentes confiáveis requerem arquiteturas onde o raciocínio crítico possa ser explicitamente exigido, em vez de depender apenas das capacidades do modelo ou dos padrões de prompt.