arxiv arXiv cs.LG · hace 5 h

SVD-Surgeon: Cirugía óptima de valores singulares para la compresión de modelos de lenguaje grandes

Los investigadores han presentado SVD-Surgeon, un método sin entrenamiento que aplica el marco Optimal Brain Surgeon a la descomposición en valores singulares para comprimir modelos de lenguaje grandes. Este enfoque calcula actualizaciones de forma cerrada para los valores singulares retenidos con el fin de compensar los errores de truncamiento y determina qué valores deben podarse basándose en su relevancia.

arxiv arXiv cs.LG · hace 5 h

El aprendizaje por contraste consciente del paciente preserva la estructura por paciente en las representaciones de intervalo RR

El artículo aborda el desafío del aprendizaje de representaciones por contraste en señales fisiológicas donde las líneas base específicas del sujeto interfieren con los objetivos a nivel de clase, provocando que los modelos pierdan la variación individual necesaria para la generalización. Los autores proponen un objetivo por contraste consciente del paciente para la detección de Fibrilación Auricular Paroxística que forma pares positivos únicamente a partir de segmentos del mismo paciente para preservar las líneas base del ritmo sinusal mientras separa las clases.

arxiv arXiv cs.LG · hace 5 h

Una teoría espectral de la propagación GNN corregida y normalizada

Este artículo desarrolla una teoría espectral para la propagación de Redes Neuronales Gráficas (GNN) corregidas y normalizadas, centrándose en la matriz de adyacencia simétrica normalizada con su componente estacionario por grado eliminado para aislar la dirección vinculada al oversmoothing.

arxiv arXiv cs.LG · hace 5 h

MORL-A2C: Reordenador de Aprendizaje por Refuerzo Multiobjetivo para Salud

Los investigadores presentan MORL-A2C, una extensión de toma de decisiones secuenciales al sistema MOPI-HFRS que utiliza un algoritmo Actor-Crítico de Ventaja para optimizar el equilibrio entre la preferencia del usuario y la salud nutricional en las recomendaciones de alimentos.

media r/LocalLLaMA · hace 5 h

Construí un arnés de agente para modelos pequeños. Logré que Qwen 3.5 4b gestionara servidores.

El autor desarrolló un arnés de agente especializado diseñado para abordar los modos de fallo específicos de los modelos locales pequeños, como llamadas a herramientas fallidas y un pobre seguimiento del estado. Este marco personalizado permite que modelos más pequeños como Qwen 3.5 4b gestionen eficazmente servidores remotos.

media r/LocalLLaMA · hace 5 h

El modo de ejecución local convierte una imagen en un personaje adorable y controlable que puedes usar

El autor presenta la versión de 800M de un modelo que convierte imágenes en personajes controlables, diseñado para ejecutarse cómodamente en GPUs de consumo. Esta iteración aumenta el contexto a 12 cuadros latentes y mejora la estabilidad mientras mantiene un alto rendimiento, logrando más de 60 fps en una RTX 5090.

media Hugging Face Forums · hace 5 h

HoLo-ToLk: Modelos de habla sin tokenizador en sustrato HSL de 0 parámetros

El autor presenta HoLo-ToLk, un proyecto de investigación que construye modelos de habla a texto (STT) y texto a habla (TTS) utilizando el sustrato de bytes HSL de cero parámetros sin tokenizadores ni incrustaciones de entrada aprendidas. El trabajo demuestra que los bytes HSL en bruto pueden servir como una señal viable para el procesamiento de audio cuando se combinan con modificaciones arquitectónicas específicas.

github llama.cpp · hace 5 h

la versión b9837 de llama.cpp añade la bandera --reasoning-preserve y nuevos binarios

El proyecto llama.cpp ha lanzado la versión b9837, que introduce una nueva bandera `--reasoning-preserve` para la plantilla de chat Jinja con el fin de conservar los tokens de razonamiento. Esta actualización también incluye mensajes de ayuda corregidos y proporciona binarios precompilados para macOS, Linux, Windows, Android y openEuler en varios backends de hardware.

lab OpenAI News · hace 5 h

HP Inc. lanza una alianza estratégica con OpenAI en la frontera

HP Inc. está ampliando su alianza estratégica con OpenAI tras pilotos exitosos, desplegando IA en experiencias de clientes, productividad de empleados y desarrollo de software. La empresa utiliza la plataforma Frontier de OpenAI como un modelo operativo unificado para gobernar el contexto, los permisos y la evaluación a medida que avanza desde casos de uso experimentales hacia producción en toda la empresa.

arxiv arXiv cs.LG · hace 6 h

Resolver para el hiperparámetro, omitir la búsqueda: Leyes de escala óptimas de Kolmogorov para regresión por splines

El artículo presenta KORE, un método que determina la resolución óptima de la regresión por splines en forma cerrada en lugar de mediante una búsqueda exhaustiva de hiperparámetros. Al aprovechar la teoría clásica de aproximación y la identidad PRESS, equilibra analíticamente las escalas de sesgo y ruido para lograr una precisión comparable a los barridos de cuadrícula con significativamente menos cómputo.

arxiv arXiv cs.LG · hace 6 h

Las Redes de Kolmogorov-Arnold Polinomiales Aprenden la Dinámica del Juego de la Vida

Este estudio demuestra que las redes neuronales pueden aprender de manera confiable la dinámica del Juego de la Vida de Conway utilizando arquitecturas mínimas mediante el empleo de sesgos inductivos específicos en lugar de depender de procesos de búsqueda a gran escala. Los autores muestran que las variantes de red con funciones de activación alternativas superan significativamente a las Unidades Lineales Rectificadas estándar, particularmente a través del uso de activaciones polinomiales de segundo grado.

arxiv arXiv cs.LG · hace 6 h

Cuantificación del acuerdo entre influencia de datos y similitud de datos en LLMs

Este estudio cuantifica el acuerdo entre las medidas de similitud de datos e influencia de datos utilizadas para rastrear las salidas de los LLMs hasta los datos de entrenamiento, revelando una superposición significativa con una asimetría donde la influencia de datos clasifica más consistentemente los documentos más similares. Los experimentos en modelos como OLMo2-1B, Qwen3-1.7B, LlaMa3.2-1B, Gemma3-1B y GPT2 demuestran que esta asimetría permite una compensación favorable entre costo y precisión al usar la influencia de datos para refinar los resultados más económicos de la similitud de datos.

arxiv arXiv cs.LG · hace 6 h

Redes neuronales como regresión lineal: una introducción para estadísticos

Este artículo introduce las redes neuronales a los estadísticos desmitificando el campo desde la perspectiva de la aproximación por regresión lineal.

arxiv arXiv cs.LG · hace 6 h

Escalando la conectividad de modos lineales y la fusión en transformadores preentrenados de miles de millones de parámetros

Los investigadores proponen un marco escalable para fusionar transformadores de miles de millones de parámetros entrenados independientemente utilizando conectividad de modos lineales, abordando los límites de escalabilidad en métodos existentes. El enfoque emplea transformaciones de pesos que preservan la función y un procedimiento de aprendizaje dual donde ambos modelos optimizan conjuntamente hacia una trayectoria de interpolación lineal compartida.

arxiv arXiv cs.LG · hace 6 h

Descubrimiento causal en la era de los agentes

El artículo argumenta en contra del uso de modelos de lenguaje grandes para inferir estructuras causales, advirtiendo que tales enfoques corren el riesgo de confundir asociaciones textuales con evidencia causal genuina. En su lugar, propone que los agentes solo deben asistir el flujo de trabajo inspeccionando datos y explicando supuestos, mientras se mantiene que las afirmaciones causales estén fundamentadas en algoritmos formales y diagnósticos.

media r/LocalLLaMA · hace 6 h

Un usuario ejecuta Qwen3.6-27B en hardware de gama baja para POCs de construcción

Un usuario de Reddit demuestra la ejecución del modelo Qwen3.6-27B cuantizado a Q3 con KV en Q8 en una GPU AMD Mi50 de 32 GB, logrando aproximadamente 180+ tokens por segundo para el procesamiento de prompts y 9 tokens por segundo para la generación de texto.

media r/LocalLLaMA · hace 6 h

Motor de NPC que utiliza modelos locales

Un desarrollador ha creado un backend de motor de NPC agnóstico al juego que aprovecha modelos locales pequeños para lograr tiempos de respuesta rápidos y una calidad decente para juegos de rol. El sistema utiliza NVIDIA Parakeet 0.6 para la conversión de voz a texto, Gemma 4 26B A4B como LLM y Qwen3-TTS para la síntesis de voz.

media r/LocalLLaMA · hace 6 h

Rendimiento de la división de tensores en eGPUs con bajo ancho de banda (TB3), y una pregunta

Un usuario informa haber probado el modo de división de tensores con dos eGPUs Morefine G1 4090M de 16GB conectadas mediante Thunderbolt 3 a 40Gbps. Mientras que el modo de división por capas produce altas tasas de tokens para el prellenado (PP) y la generación de texto (TG), el modo de división de tensores satura ambas tarjetas durante TG pero sufre de un mal rendimiento en PP debido a la saturación del ancho de banda.

arxiv arXiv cs.LG · hace 7 h

Descubriendo grupos latentes para clasificación robusta

Los autores proponen árboles de clasificación neural (NCT), un marco que logra robustez al codificar la estructura de subgrupos dentro de su arquitectura en forma de árbol para abordar correlaciones espurias en modelos de aprendizaje automático.

arxiv arXiv cs.LG · hace 7 h

Selección de datos mediante autofiltrado iterativo para entornos de visión-lenguaje

Los investigadores proponen un método bootstrap novel llamado Autofiltrado que entrena un modelo CLIP en un conjunto de datos en evolución seleccionado mediante autofiltrado iterativo. Este enfoque equilibra muestras limpias filtradas de alta probabilidad con ejemplos diversos de toda la distribución para mitigar el ruido en conjuntos de datos de visión-lenguaje a gran escala.