Un estudio compara la generación aumentada por recuperación (RAG) y el prompting de contexto largo en IA fundamentada en documentos. El prompting de contexto largo logra una mayor precisión epistémica —73,1 % frente a 65,4 %— pero con un costo en tokens por consulta 26 veces mayor, lo que destaca un impuesto significativo en tokens para un acceso probatorio más amplio.
El costo en tokens de la precisión epistémica en IA fundamentada en documentos
Traducido del English → Español