El artículo argumenta que el peligro fundamental de los sistemas actuales de IA es su tendencia a rellenar información faltante en lugar de detenerse, lo que lleva a una ejecución sin instrucción explícita. Para mitigar este riesgo, propone un marco que elimina la autoridad de definición y veredicto del propio modelo.

  • El sistema traslada la decisión de qué debe verificarse fuera del modelo.
  • El veredicto sobre si se ha producido la verificación también se traslada fuera del modelo.
  • Las reglas se declaran como listas de comprobación, mientras que el código realiza la verificación y registra el resultado.
  • La ejecución solo avanza leyendo el resultado registrado declarado por el humano.

Esta estructura asegura que las conjeturas no se conviertan en ejecución, manteniendo tanto la autoridad de toma de decisiones como la responsabilidad con los humanos.