Para mejorar la fiabilidad al generar salidas estructuradas a partir de modelos de lenguaje grandes, se propone un método que alimenta los errores de validación y la salida anterior del modelo de vuelta al prompt durante los reintentos. Este enfoque transforma el proceso de volver a tirar respuestas aleatorias a autocorregir errores específicos editando el intento previo.
- La técnica implica capturar errores de validación y añadir un mensaje que contiene el error formateado y la respuesta previa serializada al siguiente prompt.
- Los errores deben describirse en términos comprensibles para el modelo, como especificar que un campo requiere un entero pero se recibió una cadena.
- Se incluye la salida anterior del modelo para que pueda editar las partes incorrectas específicas en lugar de regenerar toda la respuesta.
- Las compensaciones incluyen mayor latencia por llamadas adicionales y prompts más largos en caso de errores, lo que requiere un límite en los intentos.
- Este método solo funciona cuando la salida inválida es lo suficientemente analizable para ser alimentada de nuevo al modelo.
Esta estrategia ayuda a los usuarios a lograr salidas estructuradas más fiables aprovechando la capacidad del modelo para corregir sus propios errores en lugar de depender de reintentos aleatorios.