media Hugging Face Forums · ahora mismo · open_models

ByteLex utiliza el mapa del tokenizador para predecir y corregir errores del modelo de bytes

Traducido del English → Español

Los investigadores de ByteLex construyeron un espacio de coordenadas a partir de 11 vocabularios de tokenizadores para predecir en qué palabras inventadas fallaría su modelo de lenguaje a nivel de bytes. El mapa logró una correlación de Spearman de -0.98 con la precisión por palabra medida del modelo, superando las estadísticas derivadas del corpus.

El modelo es un modelo de lenguaje a nivel de bytes de 237M parámetros entrenado en UTF-8 sin tokenización.
Se encontró que los errores dependían principalmente del primer byte, donde las priors de bytes en inglés secuestran la respuesta.
El mapa se utilizó para generar datos de entrenamiento dirigidos a los puntos débiles predichos.
La precisión en el conjunto retenido mejoró de .53/.40 a .84/.79 después de aplicar la corrección.

Este enfoque permite a los desarrolladores identificar y corregir modos de fallo específicos en modelos sin tokenizador utilizando únicamente el análisis estructural de los tokenizadores existentes.

Importancia 1/3 Confianza 1/3 Hugging Face Forums Evaluation & benchmarks Training methods

Artículos relacionados

media Hugging Face Forums · hace 23 d · 28 vistas

metrictrust detecta cuándo las métricas de validación no son confiables durante el entrenamiento

El autor desarrolló metrictrust, una herramienta ligera en Python que monitorea las ejecuciones de entrenamiento para determinar si las métricas finales de validación deben ser confiables. Aborda problemas comunes como conservar puntos de control subóptimos, sobreestimar el rendimiento debido a la memorización y depender de resultados oscilantes y ruidosos.

arxiv arXiv cs.CL · hace 63 d · 13 vistas

CARE-PPO permite el aprendizaje conjunto de predicciones precisas y confianza confiable en tareas cuantitativas basadas en lenguaje

Los investigadores presentan CARE-PPO, un marco de aprendizaje por refuerzo que conecta la predicción de pérdida para estimación de incertidumbre con el ajuste fino PPO actor-crítico. Este enfoque permite el aprendizaje conjunto de estimaciones numéricas precisas y señales de confianza confiables en la predicción cuantitativa basada en lenguaje a partir de entradas no estructuradas.

arxiv arXiv cs.CL · hace 78 d · 11 vistas

REAR: Realineación de preferencias en tiempo de prueba mediante descomposición de recompensas

Los autores presentan REAR, un marco novel que extiende el escalado en tiempo de prueba (TTS) a la alineación de preferencias modelando la tarea como un problema de realineación. Este enfoque aborda la limitación de los métodos TTS existentes, que típicamente se restringen a dominios verificables como matemáticas y programación.

arxiv arXiv cs.CL · hace 78 d · 4 vistas

El costo oculto del remuestreo: Cómo la corrección del desequilibrio degrada la calibración de probabilidades en conjuntos de árboles

Este estudio evalúa el impacto de los métodos de remuestreo como SMOTE y el submuestreo aleatorio en la calibración de probabilidades en conjuntos de árboles, encontrando que, aunque el costo de SMOTE es pequeño, el submuestreo degrada severamente la calibración.

arxiv arXiv cs.CL · hace 78 d · 5 vistas

Regla de cribado pre-registrada para bucles externos evolutivos

Los autores presentan una regla de cribado pre-registrada que determina antes de la implementación si vale la pena construir un bucle externo evolutivo sobre los parámetros de una red neuronal en comparación con una alternativa barata de un solo disparo. La regla calcula una métrica de recuperación R, definida como la mejor ganancia de un solo disparo dividida por la mejor ganancia de cualquier método barato, y prescribe omitir el bucle externo cuando R es mayor o igual al 90%.