El artículo aborda la limitación del uso de "sorpresa bayesiana" estática en AutoDiscovery, introduciendo creencias de LLM informadas por evidencia, donde los priors se actualizan con evidencia de hipótesis anteriores para calcular una surprisal no estacionaria. Los autores encuentran que la generación aumentada por recuperación basada en incrustaciones sobre descubrimientos previos anticipa mejor los posteriors finales e identifican el 37.5% de las sorpresas estáticas como espurias.

  • El método introduce filtrado de actualización de creencias y maximización de diversidad para modificar el procedimiento de búsqueda.
  • Evita recompensas espurias y prioriza hipótesis que permanecen sorprendentes bajo creencias no estacionarias.
  • En cinco dominios de descubrimiento, el enfoque aumenta la surprisal no estacionaria acumulada en un 30.62% en promedio en comparación con la búsqueda original.

Los autores concluyen que el descubrimiento científico continuo con LLMs requiere no solo una mejor medición de creencias sino también procedimientos de búsqueda que eviten la redundancia y fomenten la diversidad.