korshunov.ai
Español
Todos los artículos Página 1 / 128
arxiv arXiv cs.CL · hace 5 h

KbSD: Auto-distilación consciente del límite de conocimiento para la calibración conductual

Los autores proponen KbSD, un marco que aborda la escasez de recompensas en la búsqueda agéntica mediante el uso de supervisión densa a nivel de token y optimización adaptativa por cuadrante para calibrar cuándo los modelos deben confiar en la memoria paramétrica frente a la evidencia recuperada. Este enfoque utiliza un proceso de auto-distilación con asimetría de información donde un maestro aumentado con pistas genera demostraciones de razonamiento calibradas para un modelo estudiante sin requerir un modelo externo más grande.
arxiv arXiv cs.CL · hace 5 h

ARKD: Destilación bidireccional de divergencia KL guiada por aprendizaje por refuerzo adaptativo para generación de texto

Los autores proponen ARKD, un marco de destilación adaptativa ponderada por KL basado en aprendizaje por refuerzo que aborda las limitaciones de los métodos con un solo objetivo KL en la compresión de Modelos de Lenguaje Grande. Al utilizar una red de política para asignar dinámicamente pesos a la divergencia KL directa e inversa según las características distribucionales del maestro y el estudiante, el método logra una alineación dual en los modos principales y de cola larga.
arxiv arXiv cs.CL · hace 6 h

Evolución de la novedad en la investigación china de Biblioteconomía y Ciencias de la Información

Este estudio analiza la distribución de la novedad en artículos chinos de Biblioteconomía y Ciencias de la Información (LIS) publicados entre 2000 y 2022, examinando tendencias en revistas, temas y períodos temporales. Utilizando BERTopic para la identificación de temas y la teoría de la innovación combinatoria para la puntuación de novedad, la investigación investiga cómo los patrones de colaboración influyen en la innovación académica.
arxiv arXiv cs.CL · hace 6 h

Gráficos de razonamiento clínico: evaluación estructurada del razonamiento diagnóstico de LLMs revela competencia sin consistencia

Este estudio introduce gráficos de razonamiento clínico para evaluar los patrones de razonamiento diagnóstico de modelos de lenguaje grandes, revelando que, aunque logran competencia, carecen de esquemas de razonamiento consistentes. Los autores extrajeron representaciones gráficas estructuradas a partir de 750 trazos en cinco LLMs y probaron la existencia de patrones de razonamiento estables en casos clínicamente similares.
arxiv arXiv cs.CL · hace 6 h

MemDelta: Líneas base controladas y confusores ocultos en la evaluación de memoria de agentes

El artículo presenta MemDelta, un protocolo de evaluación controlada para sistemas de memoria de agentes que aísla componentes individuales para evitar que variables confusas distorsionen los resultados. Utilizando el conjunto de datos LongMemEval-S con 500 preguntas a través de tres familias de modelos, el estudio revela que las ganancias reportadas a menudo mezclan cambios en métodos de memoria con variaciones en modelos de lenguaje o pipelines de recuperación.
arxiv arXiv cs.CL · hace 6 h

¿Puede LLM-as-a-Judge verificar confiablemente rúbricas en escenarios agénticos?

Este estudio investiga la fiabilidad del uso de Modelos de Lenguaje Grande como jueces para verificar rúbricas en complejos escenarios agénticos, presentando RuVerBench como el primer benchmark para este propósito. La investigación evalúa modelos de vanguardia en tareas de investigación profunda y codificación, revelando que, aunque el rendimiento es sólido, persiste un ruido significativo en la verificación.
arxiv arXiv cs.CL · hace 6 h

Hacia intuiciones físicas para la dinámica de alineación: Un estudio de caso con cristalización de aleatoriedad

Este artículo propone utilizar la teoría de transiciones de fase termodinámicas para comprender la dinámica de la alineación de modelos de lenguaje durante el post-entrenamiento, específicamente a través de la lente de la cristalización de materiales. Los autores argumentan que este marco físico proporciona un vocabulario fundamentado para razonar sobre cómo cambian los modelos y de dónde origina la estructura inducida por la alineación.
arxiv arXiv cs.CL · hace 7 h

LatentRevise: Aprendizaje a partir de razonamiento con cero aciertos

El artículo presenta LatentRevise, un método de revisión latente de primer orden diseñado para recuperar señales de entrenamiento en aprendizaje por refuerzo con recompensas verificables (RLVR) para prompts donde las trayectorias correctas se muestrean raramente. Al optimizar los embeddings de entrada de un prefijo de razonamiento basándose en rollouts fallidos y respuestas doradas, el método genera datos útiles a partir de intentos previamente improductivos.
arxiv arXiv cs.CL · hace 7 h

Saber antes de recuperar: Asignación calibrada del presupuesto de recuperación para la generación aumentada por recuperación

Este artículo presenta un marco de trabajo de RAG adaptativo que asigna presupuestos de recuperación al calibrar las señales de incertidumbre de log-probabilidad de secuencia y logit de prefijo en probabilidades de corrección. El sistema decide si responder con conocimiento interno, recuperar un contexto compacto (k=1), recuperar un contexto completo (k=5) o abstenerse basándose en estas probabilidades calibradas.
arxiv arXiv cs.CL · hace 7 h

IHDec: Decodificación contrastiva guiada por divergencia para asegurar jerarquías de instrucciones en múltiples turnos

IHDec aborda el fallo de los Modelos de Lenguaje Grandes (LLM) para mantener jerarquías de instrucciones en contextos de múltiples turnos, aprovechando la Divergencia de Jensen-Shannon para detectar y corregir inversiones de influencia de roles. Este método sin entrenamiento suprime dinámicamente los roles subordinados que anulan las directivas superiores durante la generación de tokens.
arxiv arXiv cs.CL · hace 7 h

¿Medimos la estrategia o la redacción? La brecha entre la diversidad superficial y la de enfoque en el razonamiento matemático de LLM

Este estudio introduce la diversidad de enfoque para abordar la brecha entre la variación superficial y las diferencias estratégicas reales en el razonamiento matemático de LLM. Demuestra que las métricas anteriores no logran capturar la verdadera diversidad metodológica, lo que lleva a un declive en la diversidad de enfoque durante el entrenamiento de RLVR consciente de la diversidad.
arxiv arXiv cs.CL · hace 7 h

VISTA: Un panel de control propioceptivo para la gestión del contexto de LLM

El artículo presenta VISTA, una capa sin entrenamiento diseñada para abordar las limitaciones de la ventana de contexto de los agentes de herramientas a largo plazo exponiendo su estado interno. Argumenta que los modelos de vanguardia son ciegos ante su propio uso del contexto y propone una interfaz que muestra detalles de la memoria de trabajo en lugar de depender de políticas de compresión aprendidas.
arxiv arXiv cs.CL · hace 7 h

Consistencia semántica nodo-vecindario: Alineación texto-topología para detección de anomalías en TAGs

Este artículo aborda la detección de anomalías en grafos atribuidos con texto al formalizarla como un problema de consistencia semántica nodo-vecindario, donde las anomalías surgen de discrepancias entre la semántica textual y las relaciones topológicas. Los autores proponen N2NSC, un marco que utiliza dos caminos de fusión complementarios para alinear la topología del grafo con la semántica textual, permitiendo que los modelos de lenguaje grandes aprovechen tanto la información estructural como la textual del vecindario.
arxiv arXiv cs.CL · hace 7 h

SHOVIR: Una evaluación para medir el aprendizaje de atajos visuales en la generación de informes radiológicos

La evaluación SHOVIR mide el aprendizaje de atajos visuales en la generación de informes radiológicos al extender MIMIC-CXR y PadChest-GR con etiquetas CheXpert por cuadro. Utiliza experimentos de oclusión a nivel de imagen y de enfermedad para aislar atajos directos y contextuales donde los modelos dependen de correlaciones espurias en lugar de evidencia visual real.