LESS introduce un muestreador adaptivo sin entrenamiento y agnóstico al modelo que reduce los pasos de desvanecimiento inverso en un 72,1 % en comparación con la decodificación de presupuesto fijo. Logra una mayor precisión que los muestreadores existentes sin entrenamiento y reduce el cómputo y la latencia de inferencia mediante reglas de estabilidad mutua que garantizan el compromiso del token solo cuando las predicciones son confiables, consistentes y estables.
LESS es más: Muestreo adaptativo para modelos de lenguaje de difusión
Traducido del English → Español