El artículo aborda problemas de validez en estudios recientes sobre memorización extraíble en LLM, argumentando que el trabajo previo a menudo pasa por alto la necesidad de distinguir entre memorización y predictibilidad general. Propone formalizar comparaciones emparejadas midiendo las probabilidades de generación de secuencias de entrenamiento frente a secuencias no de entrenamiento comparables para establecer una línea base.
- Los autores introducen dos métodos para umbrales calibrados: una prueba conformal para poblaciones muestreadas y un censo para documentos individuales como libros.
- El análisis de OLMo 2 32B en Wikipedia muestra que reproducir sufijos no de entrenamiento ocurre aproximadamente al 24% de la tasa de los de entrenamiento, indicando falsos positivos en lugar de memorización.
- Para Llama 3.1 70B en libros, los umbrales calibrados son tan bajos como 1e-27, apoyando afirmaciones de memorización para secuencias que serían inviables de extraer mediante muestreo.
Los autores refinan la definición de "memorización extraíble" para requerir tanto una afirmación válida de memorización basada en estas comparaciones como una generación casi segura dentro de un presupuesto realista.