lab NVIDIA Research · hace 1 h · research

JacNet aprende funciones modelando directamente jacobianos estructurados

Traducido del English → Español

El artículo presenta JacNet, una arquitectura de red neuronal que aprende directamente el jacobiano de una función de entrada-salida en lugar del mapeo en sí. Este enfoque permite un control preciso sobre las propiedades de la derivada, permitiendo imponer priores estructurales como invertibilidad y continuidad k-Lipschitz.

El modelo garantiza que las funciones aprendidas sean invertibles, lo que facilita el cálculo de inversas.
Demuestra la capacidad de imponer restricciones 1-Lipschitz a los mapeos aprendidos.
El método proporciona un mecanismo para incorporar conocimiento previo sobre los mapeos verdaderos en el proceso de aprendizaje.

Al estructurar la derivada directamente, JacNet ofrece una forma de aprender aproximaciones que satisfacen propiedades matemáticas específicas requeridas para ciertas aplicaciones.

Importancia 1/3 Confianza 3/3 NVIDIA Research Research paper Training methods

Leer original

Los LLM igualan o superan la optimización bayesiana para la optimización de hiperparámetros

Un nuevo artículo explora el uso de modelos de lenguaje grandes fundamentales (LLM) para automatizar la optimización de hiperparámetros (HPO), un proceso que normalmente depende de enfoques manuales en configuraciones con presupuesto limitado. Los autores desarrollaron una metodología donde los LLM sugieren configuraciones de hiperparámetros basadas en descripciones del conjunto de datos y del modelo, las cuales se refinan iterativamente según el rendimiento del modelo.

lab NVIDIA Research · hace 1 h · 27 vistas En vivo

Source introduce diferenciación desenrollada aproximada para la atribución de datos de entrenamiento

Los investigadores presentan Source, un nuevo método de atribución de datos de entrenamiento (TDA) que combina la eficiencia computacional de las funciones de influencia con la precisión de los enfoques basados en desenrollado. Al utilizar una fórmula similar a la función de influencia para aproximar la diferenciación desenrollada, Source aborda limitaciones en los métodos de diferenciación implícita, como su incapacidad para tener en cuenta el sesgo de optimización o los pipelines de múltiples etapas.

arxiv arXiv cs.CL · hace 8 h

MiLMMT-46-v1.0 mejora la traducción multilingüe mediante postentrenamiento sin referencia

Los investigadores han lanzado MiLMMT-46-v1.0, un modelo de lenguaje grande de código abierto para traducción automática multilingüe que utiliza postentrenamiento sin referencia. Partiendo del MiLMMT-46-v0.1 ajustado por supervisión, el equipo aplicó la Optimización de Política Relativa por Grupos (GRPO) con una recompensa basada en dos modelos de estimación de calidad sin referencia controlados por identificación de idioma.

lab NVIDIA Research · hace 1 d · 2 vistas

Masters destila modelos de visión y lenguaje mediante enmascaramiento del maestro y refuerzo del estudiante

Los investigadores proponen Masters, un marco de aprendizaje por refuerzo progresivo con enmascaramiento para destilar modelos grandes de visión y lenguaje en versiones compactas adecuadas para implementación en dispositivos periféricos. El método aborda la inestabilidad causada por la brecha de tamaño entre los modelos maestro y estudiante.

lab NVIDIA Research · hace 1 d · 2 vistas

ZPPO utiliza prompts en lugar de gradientes para mejorar el entrenamiento de modelos visiolingüísticos pequeños

Los investigadores presentan la Optimización de Política en la Zona Próxima (ZPPO), un método que inyecta conocimiento del maestro en los prompts en lugar de en los gradientes de la política para abordar la fragilidad en la destilación de conocimiento y la deriva en el aprendizaje por refuerzo. ZPPO construye Preguntas con Candidato Binario Incluido (BCQ) y Preguntas con Candidato Negativo Incluido (NCQ) para preguntas difíciles, recirculándolas a través de un búfer de repetición hasta que la precisión del estudiante mejore o sean expulsadas.