Este artículo sostiene que los agentes de IA suelen ejecutar acciones basándose en instrucciones incompletas al adivinar información faltante, un problema denominado "fallo de confirmación pre-ejecución". Propone una estructura aplicada en tiempo de ejecución que requiere verificar lo conocido y lo desconocido antes de tomar cualquier acción.
- El problema central no es la regla "si dudas, pregunta", sino la falta de aplicación estructural que impide a la IA llenar los vacíos.
- Los fallos de Nivel 1 implican que la IA adivina y llena vacíos, mientras que los fallos de Nivel 3 ocurren cuando las acciones no pueden confirmarse a partir de las palabras del usuario.
- La propuesta incluye un mecanismo de 12 diapositivas diseñado para proveedores de IA y desarrolladores de plataformas de agentes para implementar verificaciones pre-ejecución.
- Este enfoque busca detener a los agentes de causar accidentes al forzarlos a pausar y verificar condiciones antes de la ejecución.
Los autores consideran esto importante porque desplaza la responsabilidad de la verificación de la intención a la estructura, asegurando que la IA no ejecute acciones cuando la información requerida no esté verificada.