arxiv arXiv cs.AI · hace 55 d · research

Fusión global aprendible para tokenización de longitud variable en Transformers de difusión

Traducido del English → Español

Un nuevo tokenizador de longitud variable utiliza fusión global aprendible para permitir la alineación de representaciones entre longitudes en modelos de difusión. Este enfoque independiente de los datos supera la semántica dependiente de la posición y mejora el equilibrio entre calidad y costo computacional en la generación de ImageNet 256×256 en comparación con métodos anteriores.

Importancia 2/3 Nueva función frente a los líderes arXiv cs.AI Allen AI Hugging Face OpenAI Evaluation & benchmarks Image generation Training methods

Leer original

Pipeline híbrido ANN-SNN con plasticidad local

Un pipeline híbrido ANN-SNN utiliza codificadores EfficientNet preentrenados y convierte sus activaciones en trenes de picos mediante codificación por tasa. El sistema entrena un clasificador spiking CoLaNET con reglas de plasticidad local, logrando una precisión del 99.09% en el benchmark de 64 clases de ImageNet, igualando a las redes profundas convencionales.

arxiv arXiv cs.AI · hace 56 d · 1 vista

Marco de Auto-Distilación Condicionada por Rúbrica

La Auto-Distilación Condicionada por Rúbrica introduce un marco que utiliza rúbricas estructuradas para proporcionar retroalimentación a nivel de token y de alta granularidad durante la auto-distilación de modelos de lenguaje de razonamiento. Al condicionar los modelos maestro en criterios a nivel de rúbrica, permite una asignación de crédito más precisa que las recompensas escalares, superando a GRPO y OPSD por 1.0 y 0.9 puntos en promedio en benchmarks de razonamiento científico.

arxiv arXiv cs.CL · hace 56 d

Marco de Auto-Distilación Condicionada por Rúbrica

La Auto-Distilación Condicionada por Rúbrica introduce un marco que utiliza rúbricas estructuradas para proporcionar retroalimentación a nivel de token y de alta granularidad durante la auto-distilación de modelos de lenguaje de razonamiento. Al condicionar los modelos maestros en criterios a nivel de rúbrica, permite una asignación de crédito más precisa que las recompensas escalares, superando a GRPO y OPSD en 1.0 y 0.9 puntos, respectivamente, en promedio en benchmarks de razonamiento científico.

arxiv arXiv cs.AI · hace 56 d

Taxonomía técnica de protocolos de comunicación de agentes LLM

Una nueva taxonomía clasifica los protocolos de comunicación de agentes LLM en cinco dimensiones: contraparte, carga útil, estado de interacción, mecanismo de descubrimiento y flexibilidad del esquema. El análisis muestra que las cargas útiles híbridas, la persistencia del estado de sesión y la negociación de esquemas en tiempo de ejecución son comunes, mientras que el descubrimiento descentralizado sigue siendo raro. El estudio predice una convergencia a corto plazo hacia protocolos unificados de agente-a-agente y agente-a-contexto, y una evolución a largo plazo hacia una pila de protocolos federada y en capas.

arxiv arXiv cs.LG · hace 57 d · 3 vistas

NoiseTilt: Kernels inversos con inclinación de ruido para la alineación de recompensas en difusión

NoiseTilt introduce NTRK, un muestreador de difusión guiado por recompensa que inyecta gradientes de recompensa a través del término de ruido sin alterar el kernel inverso. Al utilizar un operador de blanqueo, NTRK sesga de forma segura el ruido hacia la alta recompensa, preservando la calidad de la muestra mientras mantiene una fuerte guía. En la generación estética, NTRK logra un rendimiento de recompensa superior con 25 NFEs, reduciendo el cómputo en 20× en comparación con las líneas base más avanzadas.