korshunov.ai
Español
Todos los artículos Página 1 / 29
media r/LocalLLaMA · hace 12 h

Resultados de la prueba de rendimiento de cuantización de Qwen3.6 27B

Una prueba que compara las versiones cuantizadas Q8 e IQ3 XXS turbo4 de Qwen3.6 27B muestra que Q8 destaca en seguridad de API y sanitización de entradas, mientras que IQ3 XXS turbo4 tiene un mejor desempeño en gestión de hilos y diseño de código modular. El modelo recomienda combinar ambos enfoques: usar Q8 para la protección inicial al inicio e IQ3 XXS para escrituras atómicas y ciclo de vida de los hilos, formando una base combinada de Fase 1.
media r/LocalLLaMA · hace 12 h

Instrucciones de endurecimiento del razonamiento para Gemma 12b

Se ha desarrollado una instrucción de sistema para reducir el sesgo cognitivo en el razonamiento de Gemma 12b, al exigir un estricto apego a las premisas y la intención explícita del usuario. La instrucción desaconseja recurrir por defecto a interpretaciones 'habituales', 'estándar' o 'típicas', y obliga a reexaminar cualquier suposición de este tipo, mejorando el rendimiento en preguntas trampa sin sobreanalizar las normales.
media r/LocalLLaMA · hace 12 h

Desconfía de las distilaciones de Qwen/Claude: a menudo son peores que el modelo base

Las distilaciones de modelos Qwen y Claude, como Qwen 3.6 distilado con solo 4.000 muestras, rara vez mejoran el rendimiento y a menudo degradan la calidad. Estos modelos pueden exhibir un estilo más 'similar a Opus', pero fallan al transferir capacidad real, con algunos mostrando alucinaciones y tiempos de respuesta más lentos en comparación con los modelos base, según lo demostrado en pruebas y reportes de usuarios.
media Hugging Face Forums · hace 13 h

Usuarios reportan indisponibilidad de la herramienta y del servidor MCP para Step 3.7 Flash en HuggingChat

Un usuario en los foros de Hugging Face informó que el modelo Step 3.7 Flash perdió la capacidad de usar herramientas y conectarse a servidores MCP a partir de esa mañana. El autor expresó gran satisfacción con el rendimiento del modelo, destacando su alta calidad en relación con su bajo consumo de recursos y costo. Enfatizó su deseo de continuar utilizando este modelo específico en lugar de cambiar a alternativas debido a su eficiencia. El usuario preguntó explícitamente si esta pérdida de funcionalidad es permanente y si hay algún paso que pueda tomar para restaurar el acceso. La publicación destaca la preocupación de la comunidad por la interrupción repentina de las capacidades de herramientas para un modelo popular y rentable.
media r/LocalLLaMA · hace 17 h

AeroLLM: aplicación de IA rápida y de código abierto para Apple Silicon

AeroLLM es una aplicación de chat rápida, optimizada y de código abierto diseñada para dispositivos con Apple Silicon que utiliza el backend MLX. Admite tareas de IA locales como texto a voz, voz a texto y modelos de lenguaje grandes, con modelos descargados directamente desde Hugging Face según la RAM disponible. La aplicación está notariada debido a la falta de membresía en Apple Developer, pero los usuarios pueden seguir los pasos proporcionados para ejecutarla como una app firmada en macOS.
media r/LocalLLaMA · hace 17 h

¿Son los modelos locales pequeños para automatización una tendencia?

Un usuario de Reddit argumenta que los LLM locales pequeños y eficientes (de 1B a 4B parámetros) integrados en scripts pueden habilitar la automatización práctica de tareas repetitivas. Señala que este caso de uso está subrepresentado en las discusiones centradas en asistentes de codificación o rendimiento de hardware, lo que sugiere una brecha en el interés de la comunidad o la visibilidad de los modelos de IA ligeros y específicos para tareas.
blog Simon Willison · hace 17 h

Las restricciones de exportación de Fable 5 perjudican la ciberdefensa de EE. UU.

Claude Fable 5 fue prohibido bajo las restricciones de exportación después de que investigadores demostraran que podía 'arreglar' código con vulnerabilidades conocidas. El modelo generó correctamente parches y scripts de prueba para fallos de seguridad, una capacidad esencial para la ciberseguridad defensiva. Los investigadores argumentan que esta es una función de seguridad legítima, no una amenaza, y que prohibir tales modelos socava la ciberdefensa en el mundo real.
media r/LocalLLaMA · hace 17 h

¿Alguna ventaja en una configuración con múltiples máquinas para LLM locales?

Los usuarios han preguntado si ejecutar varias máquinas en paralelo proporciona ventajas para el manejo de contextos más grandes o una inferencia más rápida en modelos de lenguaje grande (LLM) locales. Si bien las máquinas individuales pueden manejar contextos más grandes con suficiente RAM, no existe un avance establecido que permita ganancias significativas de rendimiento al distribuir la inferencia entre múltiples máquinas para LLM locales.
media r/LocalLLaMA · hace 18 h

¿Siguen siendo los modelos de generación de imágenes cuantizados un trabajo en progreso?

Los usuarios reportan resultados inconsistentes al utilizar modelos cuantizados en la generación de imágenes, con SD 1.5 funcionando bien pero SDXL fallando. A pesar de una conversión y cuantización exitosas utilizando herramientas como convert.py y llama-quantize, algunos usuarios obtienen salidas de mala calidad mientras que otros no, lo que plantea preguntas sobre el estado actual y la fiabilidad de la tecnología de generación de imágenes cuantizada.