media Hugging Face Forums · hace 1 d · open_models

Jen Wei depura problemas con los optimizadores Muon y Dion3 en OLMo-core

Traducido del English → Español

Jen Wei encontró una espiral de muerte de la tasa de aprendizaje al probar AdamW, Muon y la última implementación de Dion3 dentro de OLMo-core para una próxima charla en la Conferencia PyTorch.

El proceso de depuración reveló problemas relacionados con el estado del optimizador distribuido y la programación de la tasa de aprendizaje (LR).
Se identificó un truco específico de aliasing de tensores de PyTorch como una causa clave de la inestabilidad.
Wei documentó toda la aventura de depuración en Medium para ayudar a otros a evitar trampas de memoria similares en optimizadores distribuidos.

Importancia 1/3 Confianza 1/3 Hugging Face Forums Inference efficiency Training methods

Leer original

TRL v1.14 AsyncGRPOTrainer permite sincronización solo con LoRA en Hugging Face Jobs

TRL v1.14 introduce soporte para LoRA en AsyncGRPOTrainer, permitiendo entrenar un adaptador de Low-Rank Adaptation y sincronizar únicamente ese pequeño archivo con los trabajadores de inferencia de vLLM. Esta arquitectura desacopla los trabajos de entrenamiento y generación en máquinas separadas mediante el uso de un Storage Bucket compartido como puente de sistema de archivos, eliminando la necesidad de NCCL o comunicación directa de red entre nodos.

media Hugging Face Forums · hace 16 d · 18 vistas

KV Graft Steering transfiere conceptos congelando estados KV

Una demostración muestra que congelar los estados de clave-valor (KV) de un texto guía permite a un modelo Qwen2.5-3B-Instruct aplicar nuevas instrucciones sin incluir la guía en el prompt activo. El método implica ejecutar una vez el texto guía a través del modelo, congelar su caché KV y luego generar respuestas sobre ese prefijo oculto.

arxiv arXiv cs.CL · hace 21 d · 23 vistas

Consolidar más de 200 aplicaciones en un único LLM autoalojado mediante GRPO multi-eje y SLERP

El artículo describe un método para consolidar el tráfico de más de 200 aplicaciones internas en un único modelo de lenguaje grande autoalojado, con el fin de abordar las restricciones de residencia de datos y la fragmentación de GPU. El enfoque cierra las brechas de calidad en el seguimiento de instrucciones, la llamada de funciones y la distribución de tareas internas mediante el entrenamiento de expertos GRPO separados por eje y su fusión mediante SLERP en dos etapas.

media MarkTechPost · hace 25 d · 52 vistas

Z.ai y Alibaba convergen independientemente en una arquitectura de atención lineal 3:1 para GLM-5.3-Flash y Qwen3.8-Flash-Next

Z.ai lanzó GLM-5.3-Flash, un modelo MoE multimodal de 320B parámetros con 18B parámetros activos, mientras que el equipo de Qwen de Alibaba lanzó Qwen3.8-Flash-Next, un modelo de 125B con 6B parámetros activos. A pesar del desarrollo independiente, ambos equipos adoptaron configuraciones arquitecturales casi idénticas.

media Hugging Face Forums · hace 31 d · 28 vistas

Noah DeAngelis construye atención basada en enrutamiento experimental para modelos GPT

Noah DeAngelis ha desarrollado un mecanismo de atención basado en enrutamiento experimental para modelos GPT, implementado en un proyecto PyTorch llamado RoutingGPT. El enfoque utiliza una capa lineal aprendida para seleccionar un subconjunto de tokens como claves y valores, manteniendo todos los tokens como consultas.