arxiv arXiv cs.AI · hace 2 h

FusionRS: Primer conjunto de datos a gran escala de teledetección RGB-infrarrojo

FusionRS presenta el primer conjunto de datos a gran escala RGB-infrarrojo-texto para la modelización de visión-lenguaje en teledetección. Alinea imágenes RGB e infrarrojas con descripciones conscientes del infrarrojo, permitiendo modelos de base de visión-lenguaje bimodales. Los experimentos muestran una mejora en la alineación RGB-IR, recuperación y generación de descripciones, con estudios de ablación que confirman el papel crítico de la supervisión textual específica de la modalidad.

arxiv arXiv cs.AI · hace 2 h

HAMON: Pronóstico óptico pasivo para series temporales de largo plazo

HAMON utiliza componentes ópticos pasivos para realizar pronósticos de series temporales de largo plazo, superando a los mejores modelos digitales en ETTm2 en todos los horizontes y en ETTh2 en todos excepto el horizonte más largo. Logra hasta un 14% menos de MSE y se basa en la propagación óptica física sin capas digitales entrenables, demostrando que la mezcla óptica pasiva puede producir pronósticos competitivos.

arxiv arXiv cs.AI · hace 2 h

Fase en Representaciones Neuronales: Una Prueba Interna de Oppenheim-Lim

Los clasificadores de imágenes como PRISM2D, GFNet y ViT-B/16 muestran que la fase, no la magnitud, impulsa las predicciones en las capas ocultas. ResNet-50 revela un código de signo latente en los bloques tardíos, indicando que la identidad de fase/signo existe a través de las arquitecturas, aunque se expresa de manera diferente debido a los mecanismos de activación y lectura.

media Latent Space · hace 2 h

Satya Nadella sobre Loopcraft y ecosistemas de vanguardia

El CEO de Microsoft, Satya Nadella, presenta 'Loopcraft' como una nueva teoría de la empresa, enfatizando que la verdadera oportunidad en la IA no radica en seleccionar el mejor modelo, sino en construir bucles de aprendizaje que acumulen capital humano y de tokens. Afirma que la prioridad debe ser crear ecosistemas de vanguardia donde cada organización pueda poseer y desarrollar su conocimiento institucional, permitiendo un amplio flujo de valor a través de industrias y países.

arxiv arXiv cs.LG · hace 2 h

Optimización Hyperball para un entrenamiento más rápido de modelos de lenguaje

Hyperball es un envoltorio de optimizador simple que establece normas de Frobenius fijas para las matrices de pesos y sus actualizaciones. Mejora la velocidad de entrenamiento y la transferencia de la tasa de aprendizaje en modelos grandes, logrando una aceleración equivalente a tokens del 20--30% sobre las líneas base de weight decay en modelos de hasta 1.2B parámetros.

arxiv arXiv cs.LG · hace 2 h

Los Operadores Neurales Factorizados Descomponen Respuestas Dinámicas y Persistentes

Los Operadores Neurales Factorizados (FaNO) descomponen representaciones espectrales en respuestas dinámicas equivariantes y persistentes invariantes. Esta estructura factorizada permite una mejor interpretabilidad, generalización y predicciones consistentes a través de escalas, dominios y regímenes físicos.

arxiv arXiv cs.LG · hace 2 h

CEAP reduce la varianza en el descubrimiento de circuitos de LLM

CEAP, un nuevo método de descubrimiento de circuitos, reduce sustancialmente la varianza de remuestreo en comparación con EAP-IG. El artículo muestra que la varianza por reformulación surge porque las plantillas de prompt activan diferentes circuitos, lo que sugiere que los LLM son inherentemente difíciles de dirigir a través de entradas diversas. La varianza por muestra es en gran medida benigna, ya que los puntajes bajos de fidelidad se deben al escalado selectivo de contribuciones, no a defectos del circuito.

arxiv arXiv cs.LG · hace 2 h

Descenso de gradiente funcional adaptativo con garantías de convergencia

Proponemos un nuevo algoritmo de descenso de gradiente funcional que adapta su representación durante la optimización. El método logra converger a un punto estacionario bajo pérdidas suaves y a un minimizador global bajo suavidad y una condición de Polyak-Lojasiewicz, a pesar de usar aproximaciones de dimensión finita. Supera tanto al FGD con aproximación fija como a las líneas base de redes neuronales en tareas de regresión, resolución de EDP y visión por computadora.

arxiv arXiv cs.LG · hace 2 h

Taxonomía unificada de origen causal de los cambios de distribución en el aprendizaje por refuerzo

Este artículo propone una taxonomía unificada de origen causal para los cambios de distribución en el aprendizaje por refuerzo, vinculando la generalización ID/OOD con entornos no estacionarios. Descompone la interacción agente-entorno utilizando un marco POMDP, identificando cambios internos impulsados por el agente y externos impulsados por el entorno, con tipos explícitos, implícitos e híbridos definidos por el límite de tiempo desplazado. El trabajo introduce un marco de evaluación para medir el impacto del cambio a través de métricas de degradación y recuperación del rendimiento, permitiendo un análisis sistemático de la robustez del RL.

arxiv arXiv cs.LG · hace 2 h

Propiedades clave para el razonamiento efectivo del intérprete de código

Un estudio identifica propiedades extrínsecas (tokens cruciales) e intrínsecas (comportamientos cognitivos) que mejoran el razonamiento del intérprete de código en modelos de lenguaje grandes. Los modelos con razonamiento más fuerte muestran una mayor prevalencia de verificación, retroceso y encadenamiento hacia atrás, con estas propiedades mejorando el rendimiento durante la inferencia y el entrenamiento, reduciendo el sobre-pensamiento y aumentando la eficiencia de los tokens.

arxiv arXiv cs.LG · hace 2 h

CrossMaps: Mapeo semántico consciente de la confianza para la navegación de rovers

CrossMaps es una canalización de mapeo semántico en tiempo real y consciente de la confianza que utiliza datos RGB-D para crear mapas consultables por lenguaje. Integra incrustaciones CLIP multi-escala con una arquitectura de doble memoria—Memoria a Corto Plazo y Memoria a Largo Plazo—para agregar observaciones visuales y promover celdas coherentes y confiables como puntos de referencia semánticos persistentes. El sistema permite consultas en lenguaje natural para guiar la navegación del rover mediante mapas de calor semánticos.

arxiv arXiv cs.LG · hace 2 h

CircuitLasso: Aprendizaje de circuitos escalable para la interpretabilidad de LLM

CircuitLasso permite el aprendizaje de circuitos escalable en modelos de lenguaje grandes mediante el uso de regresión lineal dispersa. Recupera circuitos con precisión estructural comparable a los métodos más avanzados, pero con un costo computacional significativamente menor, y demuestra una propagación semántica interpretable por humanos a través de los componentes del modelo. Los circuitos aprendidos logran un rendimiento comparable en una tarea de generalización de dominio con un costo reducido.

arxiv arXiv cs.LG · hace 2 h

Una prueba de dos muestras no paramétrica usando PReLU-IPM

El estudio introduce PReLU-IPM, una nueva métrica de probabilidad integral basada en un discriminador de red neuronal con un solo nodo. La prueba PReLU-TST resultante es no paramétrica, consistente y asintóticamente equivalente a las pruebas basadas en IPM estándar, mostrando mayor potencia o rendimiento competitivo en conjuntos de datos simulados y reales.

arxiv arXiv cs.LG · hace 2 h

Mapeo del espacio latente para coordenadas moleculares interpretables a partir de señales de nanoporo

Un codificador contrastivo entrenado con señales simuladas mapea las señales de códigos de barras de ADN en un sistema de coordenadas moleculares interpretable. El método permite la identificación de moléculas con un solo paso, reduciendo el costo computacional en tres órdenes de magnitud y permitiendo la agrupación de datos entre dispositivos mientras permanece invariante a las condiciones de adquisición.

arxiv arXiv cs.LG · hace 2 h

Marco causal para auditar divulgaciones de datos sintéticos

Un marco de auditoria agnóstico al modelo detecta y distingue entre divulgaciones reales y fantasma en datos sintéticos. Utiliza únicamente las salidas sintéticas y un conjunto de control retenido para realizar pruebas estadísticas, ofreciendo límites más estrictos de fuga de privacidad que los métodos anteriores sin requerir acceso al modelo ni entrenamiento adicional.

arxiv arXiv cs.LG · hace 2 h

VAE VAE convolucional híbrido para superficies de volatilidad cripto

Un autoencoder variacional convolucional entrenado en 6,034 superficies de opciones de Binance para BTC y ETH logra un RMSE de 0.94-1.56 puntos de volatilidad con una máscara del 10-50%. El predictor híbrido reduce el error de 7.00 a 0.83 puntos de volatilidad con una máscara del 50%, superando al re-ajuste paramétrico en patrones de huecos estructurados y detectando eventos anómalos del mercado sin supervisión.

media Hugging Face Forums · hace 2 h

Usuario busca colaboradores para un nuevo proyecto de conjunto de datos ML de Sudoku

Un usuario en los foros de Hugging Face busca colaboradores para construir un proyecto de aprendizaje automático y aprendizaje profundo centrado en Sudokus. El autor ha comenzado a crear una base de datos desde cero y tiene como objetivo establecer una organización independiente para esta causa.

arxiv arXiv cs.LG · hace 2 h

Las redes neuronales de tamaño fijo logran aproximación de Sobolev arbitraria

Una nueva función de activación permite que las redes neuronales de tamaño fijo aproximen cualquier función en los espacios de Sobolev $W^{s,\infty}((a,b)^d)$ con precisión arbitraria en la norma $W^{s-1,\infty}$. Los resultados utilizan activaciones elementales como EUAF y DUAF$_\infty$, con cotas explícitas de ancho y profundidad, y se extienden a variantes sigmoideas $\widetilde{\mathrm{DUAF}}_n$ que preservan la precisión para todo $1\leq s\leq n$.

arxiv arXiv cs.LG · hace 2 h

Aprendizaje de Residuos de Error de Tarea para Malabares con Cinco Pelotas en Robots Reales

Un enfoque de aprendizaje residual utilizando supervisión de error de tarea direccional logra malabares estables con cinco pelotas en robots reales, convergiendo desde el segundo intento. El sistema supera los tiempos de práctica humana y se basa tanto en retroalimentación direccional como en un prior informativo, demostrando que la actualización newtoniana con Jacobiano fijo es la más confiable.

arxiv arXiv cs.LG · hace 2 h

SPaiK: Aprendizaje de Kernel Pareado Escalable con el Truco Vec Estocástico

SPaiK introduce un método escalable de aprendizaje de kernel para configuraciones pareadas utilizando el truco vec generalizado estocástico (sGVT). Esta innovación reduce las demandas computacionales y de memoria, permitiendo un entrenamiento eficiente en conjuntos de datos grandes y haciendo factible el aprendizaje de kernel pareado para tamaños de datos previamente intratables.