Este estudio evalúa la efectividad de la concentración del argmax top-1 como advertencia de colapso durante el ajuste fino de modelos de lenguaje de difusión discreta (DLMs) utilizando Adaptación de Bajo Rango (LoRA). Los autores encuentran que esta métrica tiene una precisión cero porque se satura antes de que comience la optimización, fallando en detectar colapsos reales del entrenamiento.
Los investigadores presentan el Programador de datos holístico (HDS), un nuevo marco de mezcla de datos en línea que aborda las limitaciones de los métodos existentes considerando la composición dinámica de datos desde múltiples dimensiones. HDS formula la programación de datos como un problema de aprendizaje por refuerzo utilizando el algoritmo Soft Actor-Critic y una función de recompensa multiobjetivo.
Los investigadores proponen el muestreado de Extrapolación de Intensidad Acumulada con Reparametrización Temporal (TR-CIE) para mejorar la calidad del muestreo en la coincidencia de flujo discreto cuando las evaluaciones de función están restringidas. El método combina la reparametrización temporal basada en horarios con una regla de actualización de extrapolación de intensidad acumulada para mitigar la rigidez y mejorar la precisión de la aproximación.
Este artículo presenta AsyncOPD, una tubería de destilación on-policy completamente asíncrona que desacopla la generación de rollouts de las actualizaciones del aprendiz para aliviar los cuellos de botella de entrenamiento en el post-entrenamiento de modelos de lenguaje grandes. Los autores proporcionan el primer estudio sistemático de los efectos de la obsolescencia (staleness) en este contexto, demostrando que la divergencia KL directa ponderada por el maestro es robusta frente a rollouts obsoletos, mientras que la KL inversa ponderada por el estudiante es vulnerable.
El modelo Krea-2-Turbo genera imágenes de alta calidad en aproximadamente tres segundos y admite la edición de imágenes mediante enmascaramiento a pesar de ser una arquitectura de texto a imagen.
El extractor de tablas HTML es una herramienta de conversión por pegado que acepta texto enriquecido que contiene tablas HTML incrustadas y las convierte a varios formatos. Admite la salida de las tablas detectadas como HTML, Markdown, CSV, TSV o JSON.
Se ha publicado una guía bilingüe de código abierto en inglés y español que detalla el funcionamiento interno de los Transformers. El recurso cubre las matemáticas exactas y la mecánica detrás del colapso de atención y la compresión de KV-cache.
El proyecto de investigación independiente LIMEN analiza la dinámica interna de siete modelos Transformer de código abierto, revelando que la ambigüedad semántica altera la geometría de la trayectoria y descubriendo una gramática dinámica universal a través de las arquitecturas.
Microsoft Research presenta Memora, un marco de memoria agnóstica escalable diseñado para equilibrar la abstracción y la especificidad en tareas de IA a largo plazo. El sistema desacopla el contenido rico de la memoria de las estructuras de recuperación ligeras, estableciendo nuevos resultados de vanguardia en benchmarks mientras utiliza hasta un 98% menos de tokens de contexto.
El artículo sostiene que los modelos actuales de generación de video aprenden solo modelos del mundo espaciotemporales parciales e implícitos, en lugar de completamente fundamentados o controlables. Afirma que la realismo predictivo por sí solo es insuficiente para crear agentes físicos porque estos modelos a menudo fallan al identificar variables controlables y restricciones de encarnación.
Los autores presentan BehaviorBench, un benchmark integral diseñado para evaluar modelos fundamentales en diversas tareas y poblaciones de ciencias del comportamiento. El estudio evalúa cuatro capacidades principales—predicción de comportamiento, toma de decisiones estratégicas, inferencia de rasgos del sujeto y aplicación de conocimiento conductual—tanto a nivel individual como distribucional.
El artículo sostiene que la infraestructura de procesamiento del lenguaje natural para los más de mil millones de hablantes de lenguas indias está fragmentada debido a la falta de cimientos estructurales compartidos. Propone aprovechar la arquitectura morfosintáctica formalizada en el Astādhyāyī de Pānini como un marco computacional unificador para mejorar la precisión y la eficiencia de los datos.
Este estudio compara métodos tradicionales de aprendizaje automático frente a arquitecturas de transformer ligeras para la detección binaria de fallos en tres conjuntos de datos públicos, evaluando los compromisos entre precisión, tamaño del modelo y latencia. La investigación evalúa el rendimiento de clasificación utilizando F1-score y AUC, mientras también prueba la cuantización dinámica INT8 y un pipeline de inferencia adaptativo en dos etapas para optimizar la implementación en hardware con recursos limitados.
Los investigadores presentan Ariadne, un modelo solo de decodificador que reformula la planificación retrosintética como generación de secuencia condicionada por prompt, permitiendo que las moléculas objetivo, las restricciones y las rutas se representen en una sola secuencia. Este enfoque elimina la necesidad de modelos separados adaptados a especificaciones de planificación específicas.
El artículo presenta un paquete R y una aplicación Shiny diseñados para automatizar la evaluación visual de los gráficos de residuos de modelos lineales, abordando los problemas de escalabilidad y consistencia inherentes a la evaluación manual.
Este post de Reddit en r/LocalLLaMA es un simple agradecimiento al usuario /u/TheDankestSlav. Enlaza a una imagen compartida por el usuario, descrita como una "joya".
Un usuario de Reddit argumenta que el CEO de Anthropic, Dario Amodei, comprende fundamentalmente mal cómo funcionan los modelos de IA de código abierto, refutando específicamente su reciente testimonio ante el Congreso del 28 de junio de 2026. El autor sostiene que las afirmaciones de Amodei sobre transparencia y accesibilidad son incorrectas desde el punto de vista factual basándose en el estado actual de los modelos de pesos abiertos.
Claude Code versión 2.1.196 introduce modelos predeterminados de organización, archivos adjuntos clicables y una seguridad mejorada para las aprobaciones del servidor MCP. La actualización también mejora la fiabilidad de las sesiones en segundo plano, corrige varios problemas de informe de estado del agente y optimiza el uso de tokens en flujos de trabajo de revisión de código.
Los investigadores presentan MotifGen, un modelo generativo diseñado para la interpolación espacio-temporal de imágenes de microondas de ciclones tropicales a partir de múltiples fuentes geoespaciales con intervalos de tiempo irregulares y desalineación geográfica. El modelo aborda el desafío de la alta heterogeneidad en los datos de microondas combinando entradas de varios instrumentos para llenar los vacíos causados por los largos tiempos de revisita satelital.
Este artículo presenta dos esquemas numéricos basados en redes neuronales para resolver sistemas de ecuaciones diferenciales estocásticas backward acopladas ergódicas (eBSDEs), motivado por la aproximación de estrategias óptimas en modelos de factores estocásticos con cambio de régimen.