SVD-Surgeon es un método sin entrenamiento que aplica el marco Optimal Brain Surgeon a la descomposición en valores singulares. Calcula una actualización de forma cerrada para los valores singulares retenidos con el fin de compensar la truncación, mejorando la relación entre perplexidad y compresión en los modelos OPT y LLaMA 2-7B sin necesidad de reentrenamiento.
SVD-Surgeon: Cirugía óptima de valores singulares para compresión de LLM
Traducido del English → Español