korshunov.ai
Español
Todos los artículos Página 1 / 108
arxiv arXiv cs.AI · hace 1 h En vivo

SPIRAL: Aprender a buscar y agregar

Los autores presentan el Aprendizaje por Refuerzo Secuencial-Paralelo-Agregativo (SPIRAL), un marco que entrena modelos de lenguaje para utilizar simultáneamente primitivas de razonamiento secuencial, paralelo y agregativo. A diferencia de los métodos estándar de post-entrenamiento que optimizan únicamente para el razonamiento secuencial de una sola traza, SPIRAL unifica estos componentes en una única canalización de cómputo de inferencia. El modelo primero muestrea trazas independientes en paralelo utilizando razonamiento cadena-de-pensamiento y luego genera una traza de agregación final condicionada a esas entradas. Todo este proceso se optimiza de extremo a extremo contra la recompensa de la respuesta agregada final utilizando técnicas de aprendizaje por refuerzo basado en conjuntos y aprendizaje por refuerzo estándar. Los experimentos en tareas de razonamiento demuestran que SPIRAL escala efectivamente con los recursos de cómputo de inferencia. El enfoque supera a GRPO hasta 11 veces en eficiencia de escalado y logra un 15% más de rendimiento cuando se escalan las tres primitivas de cómputo.
arxiv arXiv cs.AI · hace 2 h

AOHP: Un arnés de agente a nivel del sistema operativo de código abierto para interacciones personalizadas, eficientes y seguras

El Proyecto Android Open Harness (AOHP) es un arnés de agente a nivel del sistema operativo de código abierto construido sobre el Proyecto de Código Abierto de Android. Aborda la discrepancia entre los sistemas operativos actuales centrados en aplicaciones y las necesidades de los agentes de IA autónomos, tratando a los agentes como actores de primer nivel del SO. El diseño introduce tres mecanismos clave: composición de servicios personalizados, interfaces eficientes para agentes y flujo seguro de información. Estas características permiten interfaces de usuario adaptables y entornos de ejecución amigables para agentes, preservando al mismo tiempo el ecosistema existente de Android. Los experimentos preliminares en tareas desafiantes demuestran mejoras significativas en el rendimiento en comparación con los sistemas convencionales. Específicamente, AOHP logró un aumento del 21.12% en las tasas de finalización de tareas en comparación con los métodos base. También redujo los costos de ejecución de tokens en un 51.55%, destacando sus ganancias de eficiencia. Además, el sistema mostró una mejor cumplimiento de las políticas de seguridad durante las interacciones mediadas por agentes.
arxiv arXiv cs.AI · hace 2 h

El auge del lenguaje militarizado en los resúmenes científicos erosiona la credibilidad

Un estudio que analiza 21.4 millones de artículos de OpenAlex y PubMed revela que los términos militaristas en los resúmenes científicos aumentaron un 48% y un 32%, respectivamente, entre 2010 y 2025. Este aumento se aceleró bruscamente después de 2019 y se correlaciona fuertemente con datos de conflictos globales a escala nacional y anual. Las ciencias sociales presentan la mayor prevalencia de este tipo de lenguaje, mientras que la ingeniería y la informática muestran las tasas de crecimiento más rápidas. El análisis también señala que la era de la COVID y el período posterior a 2022 de los modelos de lenguaje grandes redujeron la brecha lingüística entre autores nativos del inglés y no nativos. Para evaluar el impacto de esta tendencia, los investigadores realizaron un experimento de encuadre bélico dentro de los sujetos que involucró a 801 participantes y más de 32.000 ensayos. Los resultados experimentales demostraron que el encuadre bérico redujo significativamente la credibilidad percibida, la disposición a financiar y el apoyo a las políticas entre los lectores. Aunque hubo un aumento a nivel de tendencia en el sentido de urgencia, los hallazgos generales sugieren que el lenguaje militarista puede socavar el poder persuasivo de la comunicación científica.
arxiv arXiv cs.AI · hace 2 h

CADRE: Adaptación estable y eficiente en parámetros de modelos de lenguaje y visión médica con olvido acotado y deriva de previos

Los autores presentan CADRE, un marco eficiente en parámetros para adaptar modelos de lenguaje y visión médicos mientras se previene el olvido catastrófico y la deriva de previos. El método combina adaptación de bajo rango con un término de consolidación elástica de peso elástico escalado automáticamente en línea para acotar la pérdida de competencia retenida. También emplea una penalización ancla-a-previo para restringir la deriva de incrustaciones desde el modelo preentrenado congelado. Dos garantías breves respecto a la masa de consolidación y la invariancia de escala abordan la fragilidad de orden encontrada en EWC estándar. El enfoque se evaluó en datos de cáncer de mama a través de modalidades de histopatología, ultrasonido y radiografía de tórax. Al entrenar aproximadamente el 0.23% de los parámetros, CADRE logró la tasa de olvido más baja entre los métodos de adaptación. Esto representó una reducción siete veces mayor en comparación con la línea base regularizada más fuerte, bajando de 0.075 a 0.011. El modelo también demostró transferencia hacia atrás positiva donde todas las líneas base mostraron resultados negativos.
arxiv arXiv cs.AI · hace 2 h

DVL-DeepONet: Aprendizaje de operadores guiado por física para la navegación submarina resistente

Los investigadores proponen DVL-DeepONet, un marco de operador neuronal profundo guiado por física diseñado para mejorar la navegación de vehículos autónomos submarinos (AUV) en condiciones de sensores degradados. El sistema aborda desafíos derivados de mediciones ruidosas o incompletas del registro Doppler de velocidad y la ausencia de sensores inerciales en plataformas de bajo costo. Estima vectores de velocidad a través de tres escenarios operativos: estimación resistente al ruido con sensores acoplados, aprendizaje solo con DVL y recuperación de mediciones de haz. Al mapear observaciones temporales a la velocidad del vehículo mientras se imponen restricciones de consistencia física, el modelo mantiene su robustez durante perturbaciones ambientales. El marco fue validado mediante experimentos reales con AUV que cubrieron una longitud acumulada de trayectoria de aproximadamente 10,000 metros. Los resultados experimentales demuestran que las arquitecturas DVL-DeepONet superan a los algoritmos basados en modelos y aprendizaje por base por un 40%.
arxiv arXiv cs.AI · hace 2 h

POTracker optimiza LLMs para la generación de informes de cortes de energía conforme a estándares

Los modelos de lenguaje grandes recientes tienen dificultades con la generación de datos específicos del dominio debido a estrictos requisitos de formato y estructura. Para abordar la interoperabilidad de los informes de cortes de energía de servicios públicos en Estados Unidos, los investigadores proponen POTracker, un modelo optimizado para generar documentos de cumplimiento legibles por máquina. El equipo ajustó finamente Qwen2.5-7B-Instruct utilizando un objetivo novedoso llamado POTrackerLoss. Esta nueva función de pérdida tiene en cuenta tanto la similitud textual como la similitud de etiquetas estructurales entre las salidas generadas y los informes de referencia. La evaluación en un conjunto de datos de 1,000 informes demuestra que POTracker supera a cinco métodos de ajuste fino y un enfoque de conversión XML basado en reglas. El modelo mejora la precisión general hasta en un 51% y alcanza una precisión estructural del 86.47% para los informes generados. Además, un estudio humano que involucró a expertos del dominio asignó una puntuación promedio de calidad de 4.03 en una escala de 0-5 a las etiquetas generadas.
arxiv arXiv cs.AI · hace 2 h

SQLConductor: Aprendizaje de Búsqueda a Política para Orquestación Paso a Paso de Texto a SQL

Los autores proponen SQLConductor, un marco de aprendizaje de orquestación paso a paso para Texto-a-SQL que aborda las limitaciones de los pipelines fijos y los métodos estáticos de planificar-entonces-ejecutar. Este sistema formula subtareas como acciones especializadas y entrena un modelo de política para seleccionar la siguiente acción basándose en artefactos intermedios y retroalimentación. Para aprender esta política, el marco introduce Aprendizaje de Búsqueda a Política, que utiliza Monte Carlo Tree Search para explorar flujos de trabajo candidatos y estimación de estabilidad para identificar supervisión robusta. El modelo de política se entrena utilizando Supervised Fine-tuning ponderado por Estabilidad para priorizar patrones de orquestación de alta calidad y se mejora aún más mediante Curriculum Reinforcement Learning. Este enfoque transforma la búsqueda offline de flujos de trabajo en una política implementable para orquestación paso a paso durante la inferencia. Los experimentos en BIRD-Dev y conjuntos de datos fuera de distribución muestran que SQLConductor alcanza una precisión de ejecución del 73.2%, superando a métodos anteriores con backbones comparables o más grandes. Los resultados demuestran una precisión de ejecución superior y una fuerte generalización mientras coordinan modelos de acción más grandes congelados.
arxiv arXiv cs.AI · hace 2 h

VeriEvol: Escalar el razonamiento matemático multimodal mediante Verifiable Evol-Instruct

Los autores presentan VeriEvol, un marco iterativo diseñado para escalar el razonamiento matemático multimodal desacoplando la dificultad del prompt de la fiabilidad de la respuesta. Este enfoque aborda el desafío de mantener etiquetas de recompensa fiables a medida que aumenta el volumen de datos en las tuberías de aprendizaje por refuerzo. El sistema utiliza un módulo de evolución consciente del tipo para reescribir semillas de baja dificultad en prompts más difíciles y basados en imágenes mediante operadores específicos de ruta. La verificación de respuestas es manejada por HTV-Agent, que acepta respuestas solo después de que la contraevidencia multi-fuente falla en refutarlas. Escalar los datos de ajuste fino supervisado evolucionado de 10K a 250K muestras aumentó la precisión media en cinco benchmarks de 35.42 a 54.73. Cuando se integró con una receta GRPO fija, VeriEvol proporcionó una ganancia acumulada de +3.88 sobre una línea base no evolucionada. Esta mejora se atribuye a +1.82 de los prompts evolucionados y +2.06 del verificador HTV-Agent. Los autores liberan todos los prompts, datos, modelos, código y trazas completas del verificador para permitir la auditoría y el escalado posteriores.
arxiv arXiv cs.AI · hace 2 h

Consumo de energía del ajuste fino de Transformers: Un modelo de escalado inspirado en el modelo roofline

Los autores presentan un marco para modelar el consumo de energía del entrenamiento de Transformers en múltiples GPUs, abordando la necesidad de un diseño de sistemas sostenible a medida que aumentan los costos computacionales. Al realizar barridos arquitectónicos controlados en modelos BERT, relacionan el uso de energía medido con proxies ligeros para el cómputo, el tráfico de memoria y la eficiencia del hardware. El enfoque está inspirado en los modelos roofline e incorpora un factor de eficiencia del hardware basado en aceleración para tener en cuenta el paralelismo de tensores y el paralelismo de datos completamente fragmentado. Esta metodología permite derivar un modelo de ley de escalado que predice con precisión la energía de entrenamiento en configuraciones heterogéneas. El trabajo destaca la importancia crítica de predecir el consumo de energía a medida que el tamaño del modelo y la escala del paralelismo crecen. Proporciona una herramienta práctica para el diseño consciente del costo en sistemas de procesamiento de lenguaje natural a gran escala.
arxiv arXiv cs.AI · hace 2 h

El Enrutamiento Consciente de Sí Mismo Aprende el Orden de Desenmascaramiento de Tokens en Modelos de Lenguaje de Difusión

Los autores proponen el Enrutamiento Consciente de Sí Mismo (SAS) para optimizar el orden de desenmascaramiento de tokens en modelos de lenguaje de difusión enmascarados, lo cual impacta significativamente la calidad de la generación. Derivan una cota superior manejable sobre la discrepancia de decodificación secuencial utilizando divergencia de Kullback-Leibler y verosimilitud logarítmica por trayectorias. Esta cota crea una recompensa densa y consciente de sí misma que enmarca la selección del orden como un problema de optimización de políticas con un denoiser congelado. SAS aprende una política de orden ligera mediante Optimización de Política Relativa por Grupos, soportando tanto decodificación de cualquier orden como semi-autoregresiva. En tareas de Sudoku usando un modelo de 1B parámetros, la precisión mejoró del 82.0% al 91.8%, alcanzando el 97.5% después del ajuste fino de segunda etapa. Para razonamiento matemático con LLaDA-8B, pass@1 en GSM8K aumentó del 64% al 76%. El método también elevó las puntuaciones de MBPP del 39.5% al 41%, igualando o superando consistentemente los horarios heurísticos a través de varios parámetros.
arxiv arXiv cs.AI · hace 2 h

KORE: Leyes de Escalamiento Óptimo de Kolmogorov para Regresión por Splines

Los investigadores proponen KORE, un método que resuelve la resolución óptima del spline en forma cerrada en lugar de depender de la búsqueda de hiperparámetros. El enfoque aprovecha la teoría clásica de aproximación para fijar el sesgo al cuadrado a la n-amplitud de Kolmogorov y utiliza la identidad PRESS para la estimación del error de eliminación uno a uno. Al equilibrar estas curvas conocidas, el algoritmo determina analíticamente el minimizador sin barridos exhaustivos de cuadrícula. KORE extiende este cálculo a altas dimensiones reemplazando la dimensión ambiental de entrada con el orden de interacción en una descomposición ANOVA. El algoritmo ajusta dos resoluciones piloto y resuelve un sistema calibrado por apalancamiento para evaluar la resolución plug-in con el mínimo cómputo. En objetivos aditivos y pares dispersos hasta 80 dimensiones, KORE iguala la precisión de la validación cruzada exhaustiva mientras ajusta aproximadamente ocho veces menos modelos. En 36 conjuntos de datos tabulares reales, ocupó el primer lugar entre 21 métodos en precisión por unidad de cómputo.
arxiv arXiv cs.AI · hace 2 h

Kamera: Caché de KV multimodal invariante a la posición sin entrenamiento para reutilización eficiente

Los autores presentan Kamera, un método que permite la reutilización sin entrenamiento de cachés de clave-valor multimodales abordando la pérdida de condicionamiento entre fragmentos en el almacenamiento en caché de prefijos ingenuo. La fusión estándar de estados recupera las lecturas directas pero falla en preservar el residuo difuso y de rango bajo en las capas profundas, esencial para el razonamiento multi-paso, lo que reduce la precisión a la mitad. Para reparar esto, Kamera almacena un pequeño parche de condicionamiento de rango bajo sin entrenamiento junto con cada fragmento independiente de posición. Este enfoque permite la re-rotación exacta de RoPE y la restauración del enlace entre fragmentos en los mecanismos de atención MLA, GQA y MHA. El sistema soporta operaciones baratas de reordenamiento, supervivencia de ventana deslizante y recuperación sin requerir re-codificación de los fragmentos expulsados. Los experimentos muestran que un parche de rango r recupera la precisión completa de la tarea en benchmarks de enlace entre fragmentos como MM-NIAH y doc-QA de dos páginas. La solución reconstruye el KV de re-llenado dentro del redondeo bf16 en un kernel SGLang de producción a través de seis backbones mientras mantiene una fracción de la huella original de KV.
arxiv arXiv cs.AI · hace 2 h

Gestión descentralizada del tráfico autónomo mediante redes de corredores

Este estudio aborda la insuficiencia de la gestión centralizada para el tráfico de aeronaves autónomas de alta densidad, proponiendo un enfoque descentralizado que utiliza aprendizaje por refuerzo multiagente. Los investigadores extienden este marco MARL para gestionar el flujo de tráfico dentro de complejas redes de corredores aéreos con fusiones y divisiones. Las políticas entrenadas en entornos de corredor único se prueban en escenarios de múltiples corredores cada vez más complejos de manera zero-shot, sin necesidad de reentrenamiento. Los resultados experimentales muestran que los comportamientos aprendidos se transfieren eficazmente entre distintas densidades de tráfico, geometrías de red y desempeños heterogéneos de vehículos. La evaluación mide el rendimiento a nivel del sistema mediante la conformidad con los límites, las tasas de finalización, las velocidades promedio, la distancia recorrida y la separación entre aeronaves. A pesar de requerir solo comportamientos de entrada, tránsito y salida coordinados localmente, las acciones colectivas producen flujos de tráfico deseables en toda la red de corredores.
arxiv arXiv cs.AI · hace 2 h

Enactor: Un modelo generativo para microsimulación en bucle cerrado de intersecciones semaforizadas

Los autores presentan Enactor, un modelo generativo centrado en el actor, diseñado para la microsimulación en bucle cerrado en intersecciones semaforizadas. A diferencia de los simuladores tradicionales que dependen de reglas elaboradas a mano o predictores de horizonte corto, Enactor se centra en la dinámica vehicular mientras trata a los peatones como influencias contextuales. La arquitectura codifica actores dinámicos y polilíneas de carril en coordenadas polares con respecto al centro de la intersección. Un transformador con bloques de atención espacial y temporal separados predice una distribución sobre los parámetros de movimiento del siguiente paso para cada actor. El entrenamiento emplea un currículo en bucle cerrado, exponiendo el modelo a sus propias predicciones para garantizar estabilidad durante la simulación. Las evaluaciones en dos geometrías de intersección muestran que Enactor recupera las distribuciones del generador de datos SUMO con una divergencia KL significativamente menor que los transformadores base. El modelo también reduce las infracciones de luz roja en más de un orden de magnitud y supera a los modelos base de velocidad constante en datos de campo del mundo real.
arxiv arXiv cs.AI · hace 2 h

La homología persistente detecta y dirige las respuestas de los LLM hacia preguntas mal planteadas

Los investigadores proponen utilizar la homología persistente finita de dimensión cero para representar la topología de preguntas mal planteadas dentro de modelos de lenguaje grandes. El método modela los estados ocultos contextuales como nubes de puntos, resumiendo cada capa del transformador con tres descriptores: vida media finita, entropía de vida normalizada y concentración de mayor vida. Estos descriptores se concatenan a través de las capas para formar una representación topológica unificada del estado interno de la consulta. El estudio introduce el direccionamiento de activación condicionado por topología, que recupera ejemplos similares para construir intervenciones que fomenten la aclaración o la abstención. Las evaluaciones en AmbigQA, SituatedQA y CLAMBER muestran que este enfoque supera a las líneas base basadas en prompts, mejorando la precisión de clasificación del 67.4% al 78.9% en AmbigQA. En SituatedQA, la precisión aumentó del 79.9% al 88.5%, mientras que CLAMBER registró ganancias del 57.6% al 69.6%. Además, el mecanismo de direccionamiento elevó la tasa promedio total de respuestas aceptables del 61.4% al 70.6% en tres LLM de peso abierto.
arxiv arXiv cs.AI · hace 2 h

Contra la optimización de proxy

El autor analiza las condiciones bajo las cuales maximizar una función de utilidad proxy puede llevar a resultados perjudiciales. Este análisis sugiere que dichos escenarios plantean problemas significativos para la aplicación de la teoría de la decisión estándar. El texto destaca circunstancias específicas donde la optimización de un objetivo sustituto se desvía de los resultados esperados. Estos hallazgos desafían la robustez de los marcos teóricos actuales utilizados en inteligencia artificial y economía. Al identificar estos modos de fallo, el trabajo tiene como objetivo refinar cómo deben diseñarse los agentes para evitar consecuencias no deseadas.
arxiv arXiv cs.LG · hace 2 h

Supervisión de límites guiada por entropía para la segmentación de ultrasonido mamario

Este estudio introduce un método de supervisión de límites guiado por entropía para abordar la fuga de límites y las activaciones falsas positivas en la segmentación de ultrasonido mamario. La función de pérdida propuesta escala las penalizaciones del contorno mediante la entropía predictiva por píxel y los mapas de verdad fundamental, enfocando la importancia del gradiente en los márgenes de la lesión inciertos. Evaluado en el conjunto de datos BUSI, el método preservó la calidad de la segmentación de lesiones con una puntuación media Dice de 0.7624, estadísticamente indistinguible de la línea base. Sin embargo, mejoró significativamente la especificidad al reducir las activaciones falsas positivas en imágenes sin lesión de 19 de 20 a 5 de 20. Un paso posterior de escalado térmico espacial redujo aún más el error de calibración esperado de 0.0201 a 0.0095 sin alterar las máscaras de segmentación. Estos resultados demuestran que la supervisión guiada por entropía y la calibración espacial funcionan como refinamientos complementarios dentro de un marco U-Net.