media r/LocalLLaMA · hace 1 d

¿Siguen siendo los modelos de generación de imágenes cuantizados un trabajo en progreso?

Los usuarios reportan resultados inconsistentes al utilizar modelos cuantizados en la generación de imágenes, con SD 1.5 funcionando bien pero SDXL fallando. A pesar de una conversión y cuantización exitosas utilizando herramientas como convert.py y llama-quantize, algunos usuarios obtienen salidas de mala calidad mientras que otros no, lo que plantea preguntas sobre el estado actual y la fiabilidad de la tecnología de generación de imágenes cuantizada.

media r/LocalLLaMA · hace 1 d

Lanzamiento de Nex2 mini Phase Twin: huella de 16 GB y modelo de 30B

El modelo Nex2 mini Phase Twin, con 30 mil millones de parámetros y una huella de 16 GB, ya está disponible para usuarios de Intel, en particular la gama A770. Alcanza un rendimiento de 89 tokens por segundo en una sola tarjeta A770 y está optimizado para utilizar el kernel adecuado según el hardware, con un rendimiento mejorado cuando se combina con dos tarjetas.

media r/LocalLLaMA · hace 1 d

DGX Spark está siendo difamado

El DGX Spark está siendo criticado injustamente a pesar de su sólida escalabilidad y su rendimiento de IA local utilizable. Su tecnología ConnectX permite una expansión sin pérdidas, y con un consumo de 240W, posibilita ejecutar agentic DS4Flash localmente por alrededor de $9k con 256GB de memoria CUDA.

blog Simon Willison · hace 1 d

La Casa Blanca intensifica su guerra contra Anthropic

Katie Moussouris, experta en ciberseguridad, informó que Anthropic compartió con ella el informe de jailbreak Fable para su evaluación. Señaló que Fable se negó a analizar código inseguro, pero accedió cuando se le pidió corregirlo, describiendo esto como el modelo funcionando según lo previsto en la defensa cibernética.

arxiv arXiv cs.CL · hace 1 d

Informalización simbólica en el proyecto Informath

El proyecto Informath demuestra la informalización simbólica para convertir pruebas matemáticas formales en lenguaje natural fluido y preciso. Utiliza Dedukti como un punto central que conecta sistemas de demostración como Agda, Lean y Rocq, con Grammatical Framework garantizando la corrección lingüística en múltiples idiomas.

arxiv arXiv cs.CL · hace 1 d

CKA de Diferencia Contrastiva Revela Alineación Específica de Conceptos a Través de Arquitecturas de LLM

Un diagnóstico sin entrenamiento, CKA de diferencia contrastiva (CKA_Delta), identifica alineación estructural específica de conceptos a través de arquitecturas de modelos de lenguaje. Detecta convergencia geométrica y transferencia funcional en seis dominios conceptuales, incluyendo tareas no instruccionales, con discriminación significativa donde el CKA estándar falla. Los resultados sugieren que la universalidad puede fortalecerse con la escala del modelo, aunque se necesita más validación.

arxiv arXiv cs.CL · hace 1 d

LOGOS: Un modelo generativo de propósito general para las ciencias naturales

LOGOS es un modelo de lenguaje generativo unificado que representa objetos científicos y sus interacciones como secuencias de tokens en una gramática compartida. Logra un rendimiento consistente o superior en diversas tareas de ciencias naturales, demostrando la viabilidad de un único modelo que sirva a múltiples dominios. El modelo escala positivamente con el número de parámetros, y su diseño sugiere que la IA para la ciencia debería alinearse profundamente con los grandes modelos de lenguaje a través de arquitecturas compartidas y entrenamiento.

arxiv arXiv cs.CL · hace 1 d

LESS es más: Muestreo adaptativo para modelos de lenguaje de difusión

LESS introduce un muestreador adaptivo sin entrenamiento y agnóstico al modelo que reduce los pasos de desvanecimiento inverso en un 72,1 % en comparación con la decodificación de presupuesto fijo. Logra una mayor precisión que los muestreadores existentes sin entrenamiento y reduce el cómputo y la latencia de inferencia mediante reglas de estabilidad mutua que garantizan el compromiso del token solo cuando las predicciones son confiables, consistentes y estables.

arxiv arXiv cs.CL · hace 1 d

Se lanza el conjunto de datos IMPACTeen con versiones en inglés y polaco

IMPACTeen es un conjunto de datos de 1,021 textos anotados desde cinco perspectivas: adolescentes, padres, psicólogos, expertos en comunicación y profesores. Incluye 5,100 registros de anotaciones que cubren técnicas de influencia social, intenciones, consecuencias y resistencia, con anotaciones validadas mediante edición humana. El conjunto de datos, creado mediante generación de LLM y validación humana, está disponible tanto en polaco como en inglés y apoya la investigación sobre influencia social y entrenamiento de modelos de lenguaje.

arxiv arXiv cs.CL · hace 1 d

Propiedades clave para el razonamiento efectivo del intérprete de código

Un estudio identifica propiedades extrínsecas (tokens cruciales) e intrínsecas (comportamientos cognitivos) que mejoran el razonamiento del intérprete de código en modelos de lenguaje grandes. Los modelos de razonamiento más fuertes muestran una mayor prevalencia de verificación, retroceso y encadenamiento hacia atrás, con estas propiedades mejorando el rendimiento durante la inferencia y el entrenamiento, reduciendo el sobre-pensamiento y aumentando la eficiencia de los tokens.

arxiv arXiv cs.CL · hace 1 d

Los operadores post-hoc no logran mejorar la precisión en modelos pequeños de código

Un estudio de medición encuentra que 26 operadores semánticos post-hoc no mejoran la precisión en datos no vistos frente a Best-of-N en modelos pequeños de código congelados. Aunque dos operadores —la recuperación por capa de expresión y la parada temprana de consenso adaptativo— ofrecen beneficios en eficiencia computacional o recuperación de programas, ninguno supera a BoN en precisión. Los resultados destacan limitaciones sistémicas en la detección de errores y la cobertura, lo que sugiere que los arneses de modelos y la cobertura de errores deben mejorarse antes de considerar el razonamiento post-hoc.

arxiv arXiv cs.CL · hace 1 d

TokenPilot: Gestión de contexto eficiente en caché para agentes LLM

TokenPilot reduce los costos de inferencia entre un 61% y un 87% tanto en modos aislados como continuos, superando a sistemas anteriores en eficiencia de costos mientras mantiene un rendimiento competitivo. Utiliza compacción consciente de la ingestión y evicción consciente del ciclo de vida para preservar la continuidad de la caché de prompts y minimizar las huellas de tokens.

arxiv arXiv cs.CL · hace 1 d

DeepRubric: RL eficiente para agentes de investigación profunda

DeepRubric introduce un marco de construcción de datos que genera pares consulta-rúbrica definiendo primero objetivos de evaluación verificables mediante un árbol de evidencia. Genera 9K ejemplos de supervisión y entrena un modelo de 8B con GRPO, logrando un rendimiento comparable al de los modelos más avanzados utilizando 13 veces menos horas de GPU para RL.

arxiv arXiv cs.CL · hace 1 d

KVEraser: Borrado localizado eficiente del contexto en LLM

KVEraser permite un borrado localizado eficiente del contexto en modelos de lenguaje grandes al reemplazar únicamente los estados del caché KV de un segmento borrado con estados de dirección aprendidos. Logra un rendimiento cercano al de la recomputación completa en tareas dentro del dominio para longitudes de contexto de 1K a 32K, con solo un aumento de latencia del 24%, y supera a otros métodos aproximados en QA de documentos largos con una aceleración de 3--4x sobre la recomputación completa.

arxiv arXiv cs.CL · hace 1 d

MetaSyn: Evaluación de agentes LLM en artículos de metaanálisis

MetaSyn presenta un conjunto de datos de 442 metaanálisis curados por expertos de Nature Portfolio. Evalúa doce configuraciones de agentes LLM y revela un cuello de botella crítico en la selección de estudios, donde ningún sistema recupera más del 52,7% de la literatura incluida de referencia a pesar de una alta tasa de recuperación.

arxiv arXiv cs.CL · hace 1 d

ContextRL: RL consciente del contexto para LLMs

ContextRL introduce un objetivo auxiliar indirecto para mejorar el razonamiento a largo plazo y el rendimiento multimodal en LLMs. Recompensa a los modelos por seleccionar el contexto que respalda un par de pregunta-respuesta, utilizando datos contextuales contrastivos de trayectorias de agentes de codificación y preguntas visuales basadas en imágenes. ContextRL logra ganancias de +2.2% y +1.8% sobre métodos estándar en benchmarks de QA visual y a largo plazo, con las ganancias atribuidas al objetivo de selección, no a la augmentación de datos.

arxiv arXiv cs.CL · hace 1 d

Los modelos de lenguaje codifican el valor de su trayectoria actual

Qwen3-8B rastrea internamente el valor de su trayectoria actual, definido como la probabilidad de lograr sus objetivos. Este eje de 'valor' distingue los niveles de confianza, el comportamiento de retroceso y la corrección del código, y muestra que la optimización de preferencias aumenta la confianza en las conductas recompensadas. El modelo asigna un valor bajo a las consultas políticamente sensibles después del entrenamiento, y el ajuste fino incrementa la confianza dentro de dominios específicos.

media r/LocalLLaMA · hace 1 d

Qwable-v1 lanzado como destilación de Claude Fable-5

Qwable-v1, un modelo de pesos abiertos destilado a partir de Fable-5 de Anthropic, ya está disponible públicamente en Hugging Face. Captura 4.659 rastros de codificación agéntica en texto claro del corpus público de Fable-5 y emite llamadas XML <tool_use> correctamente formateadas a herramientas al estilo de Claude, reflejando la superficie original de herramientas en sus pesos.

media r/LocalLLaMA · hace 1 d

vLLM lanza un nuevo analizador de transmisión para Qwen3+ en la versión nocturna

vLLM ha introducido un nuevo analizador de transmisión para Qwen3+ disponible en su compilación nocturna, abordando problemas como la detención intermedia y las llamadas a herramientas de transmisión fallidas debido a los límites de fragmentos. La actualización reportedly resuelve estos problemas en pruebas limitadas, mejorando la fiabilidad para flujos de trabajo agénticos.

media r/LocalLLaMA · hace 1 d

HalBench evalúa 29 modelos de código abierto en sicolofía y alucinación

HalBench evalúa 29 LLMs de código abierto en un benchmark personalizado para sicolofía y alucinación. Qwen 3.6 y Gemma 4 superan a modelos más grandes, con Qwen 3.6 logrando un 36.6% de resistencia—más alto que GPT-5.4 y Gemini 3.1 Pro. El tamaño del modelo no se correlaciona con respuestas honestas, lo que indica que la arquitectura y los datos de entrenamiento importan más que los parámetros.