arxiv arXiv cs.CL · hace 3 h

PolicyAlign: Alineación de seguridad basada directamente en políticas para modelos de lenguaje grandes

Los autores presentan PolicyAlign, un marco diseñado para alinear modelos de lenguaje grandes directamente con políticas de seguridad en lenguaje natural, en lugar de depender de costosos datos de supervisión. Este enfoque aborda la discrepancia entre los requisitos de seguridad en rápida evolución y los métodos convencionales de alineación basados en datos. El proceso comienza sintetizando instrucciones que violan la política especificada, seguido de auto-distilación on-policy para internalizar el comportamiento deseado. Para mejorar la estabilidad del entrenamiento y la eficiencia de los datos, el método incorpora Filtrado Sensible a la Política, que selecciona las instrucciones que inducen el mayor cambio conductual. Los experimentos en múltiples modelos demuestran que PolicyAlign mejora consistentemente las métricas de seguridad mientras mantiene bajas tasas de rechazo excesivo y preserva las capacidades generales. El marco también se generaliza eficazmente a dominios especializados como escenarios de seguridad médica, legal y financiera. El código para este enfoque escalable de alineación se ha publicado en https://github.com/Qwen-Applications/PolicyAlign.

arxiv arXiv cs.CL · hace 3 h

El preentrenamiento de codificadores de habla mejorados con traducción mejora los LLMs de habla

Conectar un codificador de habla preentrenado a un Modelo de Lenguaje Grande crea una desalineación estructural porque los codificadores a menudo producen representaciones específicas del idioma mientras que los LLMs operan en un espacio unificado e independiente del idioma. Los autores argumentan que incorporar objetivos de traducción de habla al proceso de preentrenamiento proporciona un mecanismo fundamentado para cerrar esta brecha. A diferencia de la transcripción monolingüe, la traducción obliga al modelo a aprender representaciones independientes de idiomas específicos. El estudio evalúa experimentalmente el impacto de añadir estos objetivos de traducción durante el preentrenamiento del codificador de habla. Los resultados demuestran que este enfoque mejora significativamente la integración multimodal entre las modalidades de habla y texto. En consecuencia, los modelos que utilizan preentrenamiento mejorado con traducción logran un rendimiento superior en varias tareas posteriores de LLMs de habla.

arxiv arXiv cs.CL · hace 3 h

Diseño de arneses y post-entrenamiento en agentes LLM

El artículo examina cómo el diseño del arnés de herramientas impacta el post-entrenamiento de agentes de modelos de lenguaje grandes. Argumenta que, aunque los agentes se someten rutinariamente a post-entrenamiento, la estructura que determina la exposición a las herramientas suele tratarse como un detalle fijo. Los algoritmos existentes asumen típicamente entornos estáticos, ignorando los cambios en las herramientas y tareas durante el despliegue. Para abordar esta brecha, los autores extendieron ALFWorld para tratar el diseño del arnés como una dimensión controlable. Esta extensión permite la evaluación bajo cambios tanto en la tarea como en el entorno de herramientas. El estudio analiza sistemáticamente la influencia del arnés en el post-entrenamiento en configuraciones dentro y fuera de la distribución. Los resultados muestran que el post-entrenamiento consciente del arnés mejora el rendimiento y permite una adaptación robusta a nuevos entornos. Por el contrario, un esfuerzo mínimo de diseño conduce a caídas drásticas del rendimiento bajo cambios ambientales fuertes.

arxiv arXiv cs.CL · hace 3 h

La evaluación Reclaim muestra que la memoria con pérdida es peor que no tener memoria

Un estudio demuestra que la memoria de un modelo de lenguaje que contiene conclusiones incorrectas es más perjudicial que no tener memoria en absoluto. Cuando los modelos retienen valores obsoletos mientras descartan trabajo de apoyo, emiten respuestas confiantes pero erróneas, mientras que las memorias vacías permiten la abstención. Este fenómeno, denominado memoria frágil, se observó en siete modelos donde la dirección del fallo nunca se invirtió independientemente de la tarea o disposición. Los investigadores introdujeron la evaluación reclaim para medir la corregibilidad comprimiendo interacciones y probando si las correcciones recuperan la verdad fundamental sin usar un juez. Los resultados indican que la corregibilidad depende de si la información fuente sobrevive a la compresión en lugar de la capacidad del modelo. Una política centrada en la fuente, que mantiene fuentes recomputables y descarta conclusiones re-derivables, restauró la corregibilidad significativamente mejor que los controles con longitud coincidente. En bucles de memoria encadenados, los errores de fuente descartada corrompen irreparablemente los pasos posteriores, mientras que la corrección propuesta mantiene horizontes de rendimiento acotados. Los hallazgos se replican en tres sistemas desplegados y datos de diálogo reales, con un oráculo construido a mano alcanzando una precisión perfecta.

arxiv arXiv cs.CL · hace 3 h

El Espectro de Generalización: Un Enfoque Cromatográfico para Evaluar Algoritmos de Aprendizaje

Las evaluaciones tradicionales reducen el aprendizaje a una única puntuación agregada, oscureciendo qué tan bien el conocimiento de un ejemplo se generaliza a otros. Los autores introducen el Espectro de Generalización, un marco de evaluación que mide la generalización por muestra mediante el seguimiento del rendimiento en variantes de prueba con distancia de transferencia creciente. Estas variantes van desde la recuperación exacta hasta la transferencia de implementación entre idiomas y la transferencia de contexto bajo reencuadre narrativo. El marco se instancia en programación competitiva utilizando un pipeline de selección y síntesis sembrado con problemas recientes para mitigar la contaminación. Las comparaciones de paradigmas de aprendizaje canónicos muestran que el Aprendizaje por Refuerzo convierte la memorización en near-transfer más eficientemente que las líneas base de Ajuste Fino Supervisado. El aprendizaje in-context exhibe capacidades de transferencia fuertes pero dependientes de la correspondencia en este contexto. Los perfiles diagnósticos revelan que las ganancias locales no necesariamente expanden el radio de generalización para todos los métodos. Específicamente, las abstracciones y pistas principalmente elevan la transferencia local, mientras que el SFT de Referencia preserva una cola de far-transfer más fuerte que RFT. Además, la auto-distilación o el RL asistido por pistas puede reducir la far-transfer incluso cuando mejora la transferencia local.

arxiv arXiv cs.CL · hace 3 h

Explorando representaciones de habla auto-supervisadas en subdialectos del mandarín mediante análisis articulatorio no supervisado

Este estudio investiga cómo se comportan las representaciones fonéticas internas en modelos de habla auto-supervisados bajo variación dialectal fina, abordando las limitaciones de los estudios de sondeo existentes que dependen de corpus curados. Los autores presentan un estudio de caso utilizando una tubería de sondeo completamente no etiquetada para subdialectos del mandarín. Las secuencias de fonemas se generan mediante un reconocedor universal de fonemas independiente del idioma y se mapean a vectores de características articulatorias, permitiendo el sondeo a nivel de fotograma sin anotación manual. Los resultados revelan patrones estructurados en la decodificabilidad de las características articulatorias a través de diferentes dialectos del mandarín. Las características acústicamente salientes como la labialidad y la estridencia permanecen comparativamente estables, mientras que aquellas asociadas con distinciones espectrales más finas muestran una mayor variación dependiente del dialecto. Esta variación está impulsada principalmente por una decodificabilidad elevada para el habla de Pekín en comparación con otros subdialectos. Los análisis capa por capa demuestran dinámicas representacionales distintas para estos grupos de características, lo que sugiere una sensibilidad dialectal desigual a través de las dimensiones articulatorias.

arxiv arXiv cs.CL · hace 3 h

Alineación forzada neuronal completamente diferenciable mediante programación dinámica suave

Los autores proponen una arquitectura neuronal end-to-end y completamente diferenciable diseñada específicamente para la alineación de fonemas, con el fin de abordar la estancación en este campo en comparación con los avances en ASR. El modelo cuenta con un codificador con dos ramas complementarias dedicadas a la verificación de identidad del fonema y la detección de límites. Un decodificador implementado como un módulo entrenable basado en programación dinámica suave diferenciable produce las decisiones finales de alineación. Todo el sistema se optimiza utilizando una pérdida contrastiva novedosa que fomenta una separación clara entre las regiones de fonemas de estado estable y los límites de transición. Los resultados experimentales muestran que el enfoque supera a los métodos actuales de vanguardia en conjuntos de datos de referencia anotados manualmente en inglés. Además, el modelo demuestra fuertes capacidades de generalización a nivel de palabra y un rendimiento efectivo en idiomas no vistos.

arxiv arXiv cs.CL · hace 3 h

PEGASUS Ajustado Alcanza Rendimiento de Última Generación en el Corpus XL-Sum Inglés

Este artículo presenta un método para optimizar la resúmen abstractivo ajustando el modelo PEGASUS en el corpus XL-Sum inglés. El objetivo es superar el rendimiento del modelo base mT5 al generar resúmenes concisos que capturen ideas salientes sin limitarse a extraer oraciones. Los resúmenes generados se evalúan utilizando la métrica ROUGE, que compara las salidas auto-generadas contra referencias creadas por humanos. El estudio afirma que el modelo PEGASUS ajustado alcanza resultados de última generación en este conjunto de datos específico. El análisis cuantitativo revela una mejora del 4.04% en la puntuación ROUGE-1 en comparación con la línea base. Además, el modelo demuestra un aumento significativo del 15.25% en la puntuación ROUGE-2. Finalmente, se reporta una mejora del 3.39% en la puntuación ROUGE-L, confirmando la efectividad del enfoque de ajuste.

arxiv arXiv cs.CL · hace 3 h

El marco de red teaming descubre vulnerabilidades de fidelidad en LLMs mediante una arquitectura multi-rol

Este artículo presenta un marco de red teaming diseñado para descubrir sistemáticamente vulnerabilidades en las salidas de modelos de lenguaje grandes a través de una arquitectura multi-rol. El sistema utiliza modelos objetivo, atacante y jurado para generar prompts adversariales y evaluar rigurosamente la precisión y consistencia de las respuestas. En un estudio de caso sobre evaluación de fidelidad, los prompts adversariales explotadores aumentaron la tasa de éxito del ataque hasta en un 7.9% en tareas de preguntas y respuestas. La investigación demuestra que las decisiones de diseño arquitectónico suelen superar a la escalado de parámetros al determinar la seguridad del modelo e identifica cómo las restricciones estructurales moldean los patrones de vulnerabilidad. El marco muestra adaptabilidad en diversas tareas de evaluación, desde preguntas y respuestas en inglés hasta resúmenes en árabe. Sin embargo, el enfoque enfrenta desafíos para automatizar completamente la generación de prompts adversariales entre diferentes idiomas. Además, los experimentos revelan limitaciones en la detección de formas sutiles de infidelidad que no se manifiestan como contradicciones factuales explícitas.

arxiv arXiv cs.CL · hace 3 h

Calibración y robustez adversaria de la puntuación automática de ASR

Este estudio evalúa la fiabilidad de los jueces automatizados utilizados para medir las tasas de éxito de ataques en jailbreaks de LLM comparándolos con votos mayoritarios humanos. Utilizando 596 completados etiquetados por humanos de HarmBench, los autores encuentran que los clasificadores de seguridad dedicados sobre-marcan con alta recall pero menor precision, mientras que los LLM-as-judges exhiben una recall errática que oscila entre 0.06 y 0.65. Estas discrepancias causan una variabilidad significativa en el ASR reportado dependiendo de qué familia de judge se emplee. La investigación también destaca diferencias marcadas en la robustez, mostrando que los wrappers de framing benigno pueden invertir las decisiones del LLM-judge entre el 57% y el 100% de las veces. En contraste, los clasificadores dedicados resisten tales ataques superficiales pero permanecen vulnerables a ataques GCG white-box, que invirtieron el 70% de los true positives confiantes a pesar de un pequeño presupuesto de optimización. Una auditoría con dos anotadores confirmó que estas inversiones adversarias preservaron el contenido dañino subyacente. En consecuencia, muchas métricas ASR actuales se consideran poco fiables bajo presión deliberada o condiciones promedio. Los autores recomiendan reportar la precision y recall del judge en datos etiquetados por humanos e incluir verificaciones adversarias en investigaciones futuras.

arxiv arXiv cs.CL · hace 3 h

STC mejora el servicio al cliente en árabe mediante análisis de sentimiento con MARBERT

Saudi Telecom Company (STC) tiene como objetivo mejorar la satisfacción del usuario aprovechando los comentarios de Twitter para el análisis de sentimiento. El estudio aborda la brecha en el Procesamiento de Lenguaje Natural en árabe entrenando el modelo MARBERT en un conjunto de datos específico de 24,513 tweets. Esta colección incluye 1,437 tweets positivos, 13,828 negativos y 5,694 neutrales, junto con 1,221 sarcásticos y 2,297 indeterminados. El objetivo principal es analizar estos sentimientos para mejorar la capacidad de respuesta del servicio al cliente de STC. El rendimiento se evaluó utilizando métricas de f1-score, precisión y recall para garantizar una detección robusta de spam y sentimiento. Los resultados indican que el esquema propuesto ofrece una precisión prometedora en comparación con las técnicas existentes en la literatura.

arxiv arXiv cs.CL · hace 3 h

Factores conductuales de la incongruencia entre calificación y sentimiento en reseñas turísticas de Sri Lanka

Este estudio investiga la incongruencia entre las calificaciones por estrellas y los sentimientos expresados en las reseñas escritas dentro de las reseñas de atracciones turísticas de Sri Lanka. Analizando un conjunto de datos de 16,156 reseñas desde 2010 hasta 2023, los investigadores emplearon una pipeline basada en transformers para derivar el sentimiento textual independientemente de las calificaciones asignadas. El análisis revela que el 18.6% de las reseñas presentan incongruencia, impulsada principalmente por comportamientos de Calificador Conservador y de 5 Estrellas Obligatorio. Estas discrepancias varían según el tipo de recinto, con los museos mostrando las tasas más altas de divergencia. Las pruebas estadísticas, la regresión logística, Random Forest y el análisis SHAP identifican el tipo de recinto, la experiencia del revisor, la longitud de la reseña y los factores temporales como contribuyentes clave a este fenómeno. Los hallazgos demuestran que las calificaciones por estrellas no son intercambiables con el sentimiento textual y requieren validación antes de ser utilizadas como etiquetas ground-truth en tareas de NLP.

arxiv arXiv cs.CL · hace 3 h

Cliff Tokens: Identificando gatillos de fallo de un solo token en el razonamiento matemático de LLM

Los investigadores introducen el concepto de cliff tokens para identificar gatillos de fallo específicos de un solo token en modelos de lenguaje grandes durante tareas de razonamiento matemático. A diferencia del trabajo previo que analiza fallos a nivel de paso o oración, este método señala el token exacto donde las caídas potenciales disminuyen significativamente utilizando un umbral adaptativo basado en una prueba z. El estudio evalúa siete modelos en tres conjuntos de datos: GSM1K, MATH500 y AIME 2025. Eliminar el primer cliff token y realizar muestreo permite recuperar pass@64 hasta 1.0, mientras que mantenerlo limita la recuperación entre 0.71 y 1.00. Los autores proponen una taxonomía que clasifica los cliffs como deterministas, inciertos o muestreados fuera (sampled-off) basándose en la elección greedy y la entropía del token. Esta clasificación se generaliza a través de diferentes escalas de modelos y exhibe características probabilísticas distintas para cada tipo. Además, el equipo valida esta taxonomía mediante optimización de preferencia de un solo token conocida como Cliff-DPO. Entrenado en GSM8K, Cliff-DPO mejora la precisión hasta +6.6 en los benchmarks. La optimización resulta efectiva para cliffs inciertos y muestreados fuera, pero no produce mejoras para los deterministas.

arxiv arXiv cs.CL · hace 3 h

El Benchmark SWE-Pro Revela una Brecha Significativa Entre los LLM y la Optimización de Software Experta

El benchmark SWE-Pro aborda la falta de marcos de evaluación realistas para la optimización del rendimiento del software mediante la introducción de un conjunto de datos a nivel de repositorio derivado de 102 optimizaciones escritas por expertos. A diferencia de los benchmarks anteriores que simplifican en exceso las tareas, SWE-Pro empareja cada tarea con pruebas parametrizadas para evaluar el tiempo de ejecución, la memoria pico y el Uso de Memoria Ponderado por Tiempo bajo condiciones conscientes del ruido. El estudio revela que los Modelos de Lenguaje Actuales actuales luchan significativamente con estos requisitos complejos, mostrando ganancias de tiempo de ejecución insignificantes y optimizaciones de memoria casi inexistentes. En marcado contraste, las implementaciones expertas lograron una aceleración agregada de 15.5x y una reducción de memoria pico de 171.3x a través de las tareas del benchmark. Se observaron mejoras escritas por expertos en el 91.2% de las tareas para el tiempo de ejecución y en el 65.7% para la memoria pico. Estos hallazgos exponen una brecha sustancial entre las capacidades actuales de los LLM y las demandas de la ingeniería a nivel experto.

arxiv arXiv cs.CL · hace 3 h

Seguridad y privacidad en la generación aumentada por recuperación: arquitecturas, amenazas, defensas y direcciones futuras

Esta revisión examina los desafíos de seguridad y privacidad inherentes a los sistemas de Generación Aumentada por Recuperación (RAG) en paradigmas centralizados, en el dispositivo, federados e híbridos. Presenta una taxonomía unificada de superficies de amenaza que abarcan las etapas de recuperación, construcción del contexto y generación. El análisis cubre clases específicas de ataques, incluyendo inferencia de membresía, inferencia de índices, envenenamiento, filtrado de gradientes y colusión. Se identifican riesgos de información sensible dentro de los índices de recuperación, registros de consultas, construcción del contexto y actualizaciones federadas. La manipulación adversaria de las bases de conocimiento se destaca como un factor clave que socava la confianza en las salidas generadas. El artículo revisa defensas arquitectónicas, algorítmicas y criptográficas mientras aborda los compromisos entre privacidad y utilidad. Finalmente, delimita los desafíos de investigación abiertos para construir sistemas RAG confiables y resilientes.

arxiv arXiv cs.CL · hace 3 h

BiPACE: Optimización de políticas guiada por bisimulación con estimación de contrafactuales de acción para agentes LLM

Los autores identifican una discrepancia fundamental en el crédito de estado-acción en el RL basado en grupos paso a paso para agentes LLM de largo horizonte. Los estimadores actuales sufren de una partición de estados demasiado fina y un promedio de acciones demasiado grueso, lo que viola los supuestos de equivalencia para la asignación de crédito. Se introduce BiPACE como un estimador de ventaja plug-in que corrige estos problemas sin añadir críticos ni rollouts adicionales. Agrupa pasos por distancia coseno en la geometría del estado oculto del actor para reducir grupos singleton y recentra las recompensas utilizando líneas base de pares condicionadas a la acción. En ALFWorld con Qwen2.5-7B, BiPACE_Q eleva el éxito de validación de 90.8 a 97.1±0.9, cruzando el umbral del 95% en cada semilla. También mejora el rendimiento en Qwen2.5-1.5B y logra ganancias en WebShop y TextCraft sobre GRPO y GiGPO. El método incurre solo en un exceso del 11.3% del tiempo de pared de un paso de entrenamiento mientras cambia la unidad de comparación a una equivalencia conductual aproximada.

arxiv arXiv cs.CL · hace 3 h

Riazi-8B: Un modelo de lenguaje grande en urdu para razonamiento matemático

Los modelos de lenguaje grandes recientes demuestran un fuerte razonamiento matemático, pero estas mejoras dependen en gran medida de recursos centrados en el inglés, dejando a idiomas con pocos recursos como el urdu con capacidades limitadas. Para abordar esta brecha, los investigadores desarrollaron Riazi-8B, un modelo en urdu diseñado específicamente para la resolución de problemas matemáticos en múltiples pasos. El modelo se creó mediante un proceso de adaptación en dos etapas que involucró preentrenamiento continuo en Wikipedia en urdu y ajuste fino supervisado en datos de Cadena de Pensamiento (Chain-of-Thought) en urdu derivados de GSM8K. La evaluación de Riazi-8B se realizó en el benchmark MGSM-Urdu frente a modelos existentes ajustados con instrucciones en urdu. Los resultados mostraron mejoras consistentes en la corrección de las respuestas, la calidad del razonamiento, la completitud de la respuesta y la generación en urdu en comparación con las líneas base. Estos hallazgos demuestran que combinar la adaptación al idioma urdu con el ajuste fino centrado en el razonamiento extiende efectivamente las capacidades de razonamiento matemático a idiomas con pocos recursos.

arxiv arXiv cs.CL · hace 3 h

Impuesto de restricción en LLM de peso abierto: supresión de llamada a herramientas bajo restricciones de salida estructurada

Este estudio identifica un fenómeno llamado Supresión de Herramientas, donde los modelos de lenguaje de peso abierto dejan de invocar herramientas cuando se habilitan simultáneamente las restricciones de JSON Schema. Los autores observaron este comportamiento en un sistema de Agente en producción y lo reprodujeron mediante experimentos controlados a través de múltiples familias de modelos. Aunque la ejecución de herramientas y el cumplimiento del esquema funcionan correctamente cuando se evalúan independientemente, fallan bajo condiciones de implementación conjunta. El análisis revela que las restricciones de JSON Schema se compilan en máscaras de tokens basadas en gramática, haciendo que los tokens de llamada a herramientas sean inalcanzables durante la decodificación. Para interpretar estos hallazgos, el artículo propone la hipótesis de Inversión de Prioridad de Restricción, sugiriendo que la satisfacción del esquema domina la selección de acciones bajo restricciones simultáneas. Los autores mitigan este problema introduciendo Ejecución Transparente en Dos Pasos, una estrategia en tiempo de inferencia que desacopla la ejecución de herramientas de la generación de respuestas. Este enfoque restaura la invocación de herramientas mientras preserva las garantías de salida estructurada sin requerir el reentrenamiento del modelo. La investigación destaca que evaluar las capacidades por separado puede pasar por alto problemas críticos de confiabilidad en sistemas de producción.

arxiv arXiv cs.CL · hace 3 h

REVERIEMEM: Memoria acotada por perspectiva para agentes de rol basados en libros

Los recientes sistemas de role-playing con modelos de lenguaje grandes a menudo fallan en contextos de narrativas largas debido a la sobreextensión factual y la monotonía estilística. La sobreextensión factual ocurre cuando los personajes acceden a información fuera de su perspectiva narrativa, mientras que la monotonía estilística aplana las voces de los personajes mediante descripciones de perfil estáticas. Para abordar estos problemas, los autores proponen REVERIEMEM, una arquitectura de memoria de tres capas diseñada para agentes de personajes basados en libros. Este sistema utiliza una capa episódica para memorias de escenas en primera persona, una capa semántica para hechos con etiquetas de visibilidad y una capa de personalidad para patrones conductuales dependientes de la situación. Los investigadores también presentan KBF-QA, un conjunto de pruebas que consta de 4,386 preguntas en ocho novelas para probar los límites del conocimiento. Los resultados experimentales muestran que REVERIEMEM mejora la Fidelidad del Límite de Conocimiento en 34.6 puntos porcentuales en comparación con métodos anteriores. Además, el modelo logra aproximadamente una tasa de victoria del 79% en el protocolo narrativo por pares de cinco dimensiones de BOOKWORLD. Estos hallazgos sugieren que la memoria acotada por perspectiva mejora efectivamente tanto la precisión factual como la generación narrativa basada en personajes.

arxiv arXiv cs.CL · hace 3 h

MedGuards: Sistema Multiagente para la Detección y Corrección Confiable de Errores Médicos

Los autores proponen MedGuards, un marco de guardrails de seguridad médica diseñado para detectar y corregir errores en el texto generado por Modelos de Lenguaje Grandes. Este sistema aborda el manejo de errores como una tarea de aprendizaje in-contexto multiagente donde agentes especializados realizan por separado la detección, localización y corrección. Un mecanismo de arbitraje guiado por confianza resuelve desacuerdos entre los agentes utilizando trazas de razonamiento y puntuaciones de confianza sin requerir entrenamiento adicional del modelo. El estudio introduce la Puntuación de Corrección Priorizada por Palabras Clave (KPCS), una nueva métrica que evalúa la precisión de las palabras clave críticas dentro del texto de referencia. Los experimentos realizados en cuatro conjuntos de datos médicos multilingües de notas clínicas demuestran mejoras significativas en las métricas de rendimiento. Estos resultados destacan una mayor interpretabilidad, robustez y adaptabilidad para un despliegue más seguro de LLMs en el sector salud. El código del benchmark MedErrBench está disponible públicamente en GitHub.