arxiv arXiv cs.CL · ahora mismo · research

La métrica STAR y el marco StarPO mejoran la alineación en la traducción automática de documento a documento

Traducido del English → Español

Los investigadores presentan Sentence Translation Alignment Rate (STAR), una métrica auxiliar diseñada para cuantificar la fidelidad estructural a nivel de oración en la traducción automática de documento a documento, abordando problemas como omisiones y alucinaciones. Proponen STAR-masked Preference Optimization (StarPO), un marco que clasifica las hipótesis por calidad estructural y utiliza una máscara de alineación dinámica para centrar la optimización en los segmentos desalineados.

STAR mide explícitamente la fidelidad estructural para abordar las violaciones de correspondencia entre origen y destino.
StarPO utiliza una máscara de alineación dinámica para optimizar segmentos específicos desalineados durante el entrenamiento.
Los experimentos en dominios de noticias y literatura muestran mejoras significativas en la calidad e integridad de la traducción.
Los modelos compactos que utilizan StarPO superan el rendimiento de sistemas propietarios masivos como GPT-4o con una eficiencia de tokens superior.

El marco permite que los modelos más pequeños superen a los grandes sistemas propietarios manteniendo una mejor eficiencia de tokens.

Importancia 2/3 arXiv cs.CL Research paper Training methods

Artículos relacionados

arxiv arXiv cs.AI · hace 8 d · 12 vistas

Harness Continual Learning adapta el estado del agente fuera de los parámetros congelados del modelo

Los autores presentan Harness Continual Learning (HCL), un paradigma donde un agente mejora evolucionando su harness orientado a la ejecución en lugar de actualizar los parámetros del modelo. Este enfoque aborda el desafío de retener el comportamiento previamente adquirido mientras se adapta a nuevas experiencias a través de componentes como prompts, memorias y reglas de enrutamiento.

media r/LocalLLaMA · hace 9 d · 12 vistas

Z.ai escala el postentrenamiento de GLM-5.3 para mejorar el razonamiento a largo plazo

Z.ai lanzó GLM-5.3, un experimento controlado que demuestra que escalar el postentrenamiento produce ganancias significativas en el razonamiento a largo plazo sin cambiar el modelo base ni la cantidad de parámetros.

media Hugging Face Forums · hace 14 d · 11 vistas

ThetaMem propone elevaciones de clave multiplicativa con signo para memoria de secuencia de estado fijo

ThetaMem es un estudio preliminar con una sola semilla de un mezclador recurrente que modifica el estado recurrente mediante elevaciones de clave aprendidas de Hadamard con signo o producto exterior, en lugar de refinar los mecanismos de compuerta. El autor presenta resultados mixtos en benchmarks sintéticos y busca explícitamente críticas para identificar el experimento más económico que pueda falsificar el enfoque.

lab NVIDIA Research · hace 16 d · 40 vistas

Los LLM igualan o superan la optimización bayesiana para la optimización de hiperparámetros

Un nuevo artículo explora el uso de modelos de lenguaje grandes fundamentales (LLM) para automatizar la optimización de hiperparámetros (HPO), un proceso que normalmente depende de enfoques manuales en configuraciones con presupuesto limitado. Los autores desarrollaron una metodología donde los LLM sugieren configuraciones de hiperparámetros basadas en descripciones del conjunto de datos y del modelo, las cuales se refinan iterativamente según el rendimiento del modelo.

lab NVIDIA Research · hace 16 d · 45 vistas

Source introduce diferenciación desenrollada aproximada para la atribución de datos de entrenamiento

Los investigadores presentan Source, un nuevo método de atribución de datos de entrenamiento (TDA) que combina la eficiencia computacional de las funciones de influencia con la precisión de los enfoques basados en desenrollado. Al utilizar una fórmula similar a la función de influencia para aproximar la diferenciación desenrollada, Source aborda limitaciones en los métodos de diferenciación implícita, como su incapacidad para tener en cuenta el sesgo de optimización o los pipelines de múltiples etapas.