Могут ли LLM-агенты развивать предвидение?

В статье утверждается, что текущие LLM-агенты часто действуют с неявным осознанием последствий, чего недостаточно для задач со значительными последствиями. Предлагается «явное предвидение» как необходимый архитектурный слой для обеспечения моделирования рисков и прогнозирования эффектов агентами до выполнения.

• Концепция реализована через когнитивный рантайм ORCA, который использует СИЛЛОГИ (SYLLOGs), состоящие из ограниченных когнитивных актов (COGITs).
• Действующий префлайт СИЛЛОГ разбивает рассуждение на шаги: нормализация запросов, моделирование действий, выявление ограничений, извлечение неопределенности, оценка риска, прогнозирование последствий, генерация альтернатив и выбор решения.
• Этот подход представлен как исполняемый процесс с четкими промежуточными контрактами, а не как расплывчатые инструкции промптов.
• Автор опубликовал статью под названием «За пределами побужденной осторожности и оградительных барьеров: принудительное на уровне рантайма преддействие для надежных LLM-агентов», детализирующую это принудительное на уровне рантайма познание.

Авторы считают это важным, потому что надежным агентам требуются архитектуры, где критическое рассуждение может быть явно запрошено, а не полагаться исключительно на возможности модели или паттерны промптов.