El artículo sostiene que los incidentes actuales de IA no provienen de fallos en la capacidad del modelo o en los permisos, sino de una falta de supervisión procesal. Sostiene que la sociedad ha otorgado incorrectamente a la IA la misma confianza que nunca se le da a los humanos, quienes deben depender de registros y verificaciones antes de actuar.
- El autor propone dividir la responsabilidad entre tres partes: creadores de herramientas, usuarios y adoptantes de agentes.
- Un agente debe verificar las entradas mediante una lista de verificación, validación de fuentes, manejo de lo desconocido y mantenimiento de registros.
- El papel del LLM se limita al razonamiento, mientras que el agente controla la ejecución basada en motivos declarados.
- Los sistemas actuales carecen de campos para declarar condiciones, obligando a depender de la inferencia del modelo que no puede ser auditada.
El artículo concluye que los modelos más fuertes requieren una separación estricta de responsabilidades, pasando de "ejecutar a menos que esté prohibido" a "no ejecutar hasta que se confirme" mediante un registro verificable.