korshunov.ai
Español
Todos los artículos Página 1 / 121
arxiv arXiv cs.LG · hace 3 h

Dirección de Variedad Paralela: Adaptación Eficiente de Grandes Memorias Asociativas Mediante Moldeado de Energía Residual

Los autores proponen H-Res (Dirección Residual Jerárquica), un mecanismo que adapta grandes modelos Transformer modulando su paisaje de energía efectivo sin alterar el equilibrio global ni expandir la longitud de la secuencia. Este enfoque formula la adaptación como un problema de control en la variedad de activaciones para dirigir las trayectorias de tokens hacia cuencas de atracción específicas de la tarea.
arxiv arXiv cs.LG · hace 3 h

RE4: Imitación consciente de la transformación de interacciones de objetos utilizando modos de manipulación

Este artículo presenta RE4, un marco para el aprendizaje por imitación que combina teorías fundamentadas de manipulación con benchmarks modernos para preservar tanto el rendimiento como la interpretabilidad en tareas de interacción con objetos. El enfoque utiliza estimación de pose ligera y auto-supervisada, junto con transformaciones conscientes del modo, para recuperar y replanificar demostraciones de manera efectiva.
arxiv arXiv cs.LG · hace 4 h

Identificadores naturales para privacidad y auditorías de datos en modelos de lenguaje grandes

Este trabajo introduce identificadores naturales (NIDs), que son cadenas aleatorias estructuradas como hashes criptográficos y URLs acortadas encontradas en los datos de entrenamiento de LLM, para abordar los desafíos de auditar la privacidad de los modelos de lenguaje grandes. Los NIDs permiten auditorías escalables de privacidad diferencial post-hoc sin costoso reentrenamiento y facilitan la inferencia de conjuntos de datos sin requerir conjuntos de datos privados retenidos.
arxiv arXiv cs.LG · hace 4 h

MedPCFM: Mejora de la finalización de nubes de puntos médicos mediante la integración de Transformers de puntos y coincidencia de flujos

Este artículo presenta PCFM, un enfoque de coincidencia de flujos para la finalización de nubes de puntos médicas que integra Point Transformer v3 (PTv3) con modelado generativo de tiempo continuo. El método se evalúa en los conjuntos de datos SkullFix, SkullBreak y Mandibular Defect para evaluar su rendimiento en tareas de reconstrucción anatómica.
arxiv arXiv cs.LG · hace 4 h

Modelo de Aprendizaje Automático Agnóstico de la Habitabilidad Fotosintética

Los investigadores han desarrollado un modelo agnóstico para la Zona Habitable Fotosintética (PHZ) basado en termodinámica y química redox, eliminando los sesgos antropocéntricos encontrados en estimaciones anteriores. Al optimizar una reacción fotoquímica genérica contra espectros de irradiación de exoplanetas utilizando un algoritmo genético, el estudio predice que la viabilidad fotosintética disminuye linealmente con la distancia orbital en lugar de cuadráticamente.
arxiv arXiv cs.LG · hace 4 h

Transformador de dos etapas basado en LLM para el diagnóstico de fallos en rodamientos

Este artículo propone un marco de aprendizaje por transferencia de dos etapas guiado por conocimiento para abordar los desafíos del diagnóstico de fallos en rodamientos que involucran heterogeneidad de conjuntos de datos, variaciones en las condiciones de operación y datos etiquetados limitados. El enfoque utiliza un Transformador ligero estilo GPT-2 con autoatención causal para la extracción jerárquica de características a partir de señales de vibración.
arxiv arXiv cs.LG · hace 4 h

CrossPool: Servicio eficiente de múltiples LLM para modelos MoE en frío mediante la disgregación de KV-Cache y pesos

CrossPool es un motor de servicio diseñado para modelos Mixture-of-Experts (MoE) en frío que aborda las ineficiencias de memoria GPU separando los pesos FFN y el KV-cache en pools distintos. Esta disgregación permite al sistema consolidar los pesos estáticos mientras aprovisiona dinámicamente la demanda activa de KV-cache, superando las limitaciones de la asignación monolítica de memoria.
arxiv arXiv cs.LG · hace 4 h

Una evaluación justa de los Modelos Fundacionales de Grafos para la Predicción de Propiedades de Nodos

Este estudio realiza una reevaluación rigurosa de nueve Modelos Fundacionales de Grafos (GFMs) recientes para la predicción de propiedades de nodos con el fin de abordar la falta de estándares de evaluación unificados en el campo. Los autores comparan estos modelos contra puntos de referencia sólidos de Redes Neuronales de Grafos (GNN) para determinar su rendimiento relativo y eficiencia.
arxiv arXiv cs.LG · hace 4 h

El razonamiento como dinámica de atractores: Recuperación de memoria latente mediante minimización de energía ponderada por Gibbs

Este artículo reinterpreta los Modelos de Lenguaje Grandes como Memorias Asociativas Densas de alta dimensión donde el razonamiento correcto corresponde a cuencas de atracción profundas en el paisaje de energía. Los autores introducen un mecanismo de recuperación que muestrea múltiples trayectorias de razonamiento y las pondera por energía inversa para aproximar la distribución de equilibrio.
arxiv arXiv cs.LG · hace 4 h

EERLoss: Una nueva función de pérdida para entrenar modelos biométricos profundos

Este artículo presenta EERLoss, una aproximación subdiferenciable de la Tasa de Error Igual (EER) diseñada para alinear el entrenamiento de modelos biométricos profundos con las métricas de evaluación principales. Validado en la verificación de dinámica de tecleo utilizando el benchmark KVC-onGoing, el enfoque aborda la desalineación entre los objetivos de optimización y la evaluación del rendimiento.
arxiv arXiv cs.LG · hace 4 h

QC-SMOTE: SMOTE con control de calidad para clasificación desbalanceada

Los autores proponen QC-SMOTE, un marco de sobremuestreo con control de calidad diseñado para abordar la generación de muestras sintéticas de baja calidad en regiones ruidosas o superpuestas comunes en tareas de clasificación desbalanceada. Este método estima la fiabilidad de las muestras minoritarias utilizando una puntuación compuesta de confianza del vecindario y emplea una estrategia best-of-K guiada por IPQ para generar candidatos sintéticos.
arxiv arXiv cs.LG · hace 5 h

ASALT: Alineación adaptativa del estado para transferencia lateral en aprendizaje por refuerzo multiagente

Este artículo presenta ASALT, un método que permite el aprendizaje de transferencia lateral en aprendizaje por refuerzo multiagente al acomodar las discrepancias en la dimensionalidad del espacio de estados entre los dominios de origen y destino. El enfoque utiliza adaptadores a nivel de observación y a nivel de estado para mapear las entradas en un espacio de incrustación compartido, facilitando una transferencia efectiva del conocimiento entre entornos heterogéneos.
arxiv arXiv cs.AI · hace 5 h

Aterrizaje Ontológico de Nivel Cruzado de Permisos, Prohibiciones y Deberes en ODRL

El artículo formula el Principio de Diseño de Nivel Cruzado para abordar cómo los evaluadores de políticas ODRL no logran especificar posiciones normativas, estructuras de autoridad o poder de declaración de violación. Establece que cualquier lenguaje normativo con normas violables requiere tanto posiciones a nivel de conducta como Permiso y Deber, como posiciones a nivel de competencia tales como Poder e Inmunidad.
arxiv arXiv cs.AI · hace 5 h

Acelerando el RL desagregado para LLMs visuales generativos con paralelismo basado en difusión

Los investigadores presentan DigenRL, un marco de aprendizaje por refuerzo desagregado diseñado para abordar las ineficiencias de la ejecución colocalizada en modelos de lenguaje grande generativos basados en difusión. El sistema admite asignación flexible de recursos y GPUs heterogéneas mientras utiliza técnicas de paralelismo novedosas para reducir las burbujas de ejecución.
arxiv arXiv cs.AI · hace 5 h

Cuando la utilidad supera la precaución causal: Supresión y recuperación dependientes del contexto en los LLM

Un estudio revela que los modelos de lenguaje grandes suprimen sistemáticamente la 'Precaución Causal'—la tendencia a abstenerse de emitir juicios causales sin evidencia suficiente—al pasar de contextos académicos a contextos de asesoramiento práctico. Esta supresión ocurre a pesar de que los modelos conservan la capacidad subyacente, como lo demuestra la habilidad de restaurar el razonamiento cauteloso mediante prompts específicos.
arxiv arXiv cs.AI · hace 5 h

Convoluciones de Kolmogorov-Arnold Estructurales: Función aprendible en los valores o la forma del filtro

El artículo introduce Redes de Kolmogorov-Arnold Estructurales (KANs) que colocan funciones aprendibles en la estructura de convolución en lugar de en las entradas individuales del kernel, organizando el diseño según si la función actúa sobre los valores de píxel o la forma del filtro. Presenta tres realizaciones: SV-KAN con una función de valor compartida, AG-KAN usando un adaptador gaussiano adaptativo al contenido, y RF-KAN que construye filtros a partir de perfiles de cresta orientados en una base de wavelet Morlet.