SupraLabs ha lanzado SupraSafety-18M, un clasificador binario de texto estilo BERT con 18 millones de parámetros diseñado para la moderación de contenido en dispositivos periféricos y teléfonos móviles. El modelo fue entrenado desde cero en el nvidia/Nemotron-3.5-Content-Safety-Dataset y alcanza una precisión del 81,2 % y un recall del 86,9 %.
Un operador de laboratorio de GPU en EE. UU. que colabora con fábricas chinas para producir PCBs modificados de RTX 4090 de 48GB advierte que los listados de RTX 4090 y RTX 5090 de 96GB son estafas a partir de junio de 2026.
Un desarrollador ha lanzado una herramienta HTML offline de un solo archivo que estima qué modelos de lenguaje grandes locales se ajustarán a una configuración de GPU específica y predice su velocidad de generación de tokens. La herramienta está diseñada para responder a la pregunta común sobre si una compilación personalizada de PC puede ejecutar los modelos deseados de manera efectiva, sin requerir un backend ni cuenta de usuario.
Un usuario de Reddit consulta sobre el estado actual de los frameworks de uso de navegador por agentes, preguntando específicamente si se han realizado mejoras para manejar flujos de trabajo largos en comparación con experiencias anteriores.
Un usuario de Reddit está pidiendo recomendaciones para ejecutar pequeños modelos de lenguaje locales y potencialmente tareas agénticas como Hermes en un MacBook Pro antiguo con recursos limitados.
Spectral Labs ha publicado una candidata a lanzamiento para una cuantización Q4_K_M consciente de la calibración del modelo Qwen3.5 0.8B, utilizando un nuevo método llamado SpectralQuant. Este enfoque busca que las huellas estándar de Q4_K_M se comporten más como formatos de cuantización mayores mientras mantiene la compatibilidad con llama.cpp.
Este artículo proporciona un tutorial sobre la configuración de una pila de agentes de codificación completamente local y lista para producción, utilizando herramientas de código abierto y modelos de lenguaje grandes de pesos abiertos. Detalla cómo combinar un LLM servido localmente con un entorno de codificación capaz de leer archivos, realizar ediciones, ejecutar comandos y verificar cambios.
El proyecto Orthrus está preparando el lanzamiento del soporte para los modelos Qwen 3.5, Qwen 3.6 y Gemma 4 utilizando un enfoque de cabeza de difusión. El equipo ha finalizado las pruebas y actualmente está configurando la canalización de lanzamiento.
Un usuario de Reddit observó un nuevo modo de visión dentro de la aplicación de DeepSeek, lo que generó especulaciones sobre el lanzamiento inminente de un modelo de visión. El usuario aclaró que la función no es una herramienta de OCR, ya que describió con éxito imágenes que no contenían texto.
Los visitantes del mercado electrónico Huaqiangbei de Shenzhen han encontrado informes y ofertas potenciales de tarjetas gráficas Nvidia RTX 5090 modificadas equipadas con 96 gigabytes de RAM de video. Un vendedor indicó que una RTX 6000 Blackwell modificada costaría aproximadamente $8,200, compuestos por 36,000 yuanes por la tarjeta base y 20,000 yuanes adicionales por la actualización de memoria.
Un usuario de Reddit con un único DGX Spark que cuenta con 128 GB de memoria unificada busca recomendaciones para mejorar los modelos de codificación; actualmente utiliza StepFun step-3.7-flash y variantes de Qwen 3.6.
Un usuario de Reddit observa que, aunque el ajuste fino de los modelos Qwen es una práctica popular, hay una notable falta de comentarios positivos sobre su rendimiento. El usuario cuestiona si algún ajuste fino de Qwen ha superado genuinamente las capacidades del modelo base.
DeepSeek ha publicado el modelo DeepSeek-V4-Pro-DSpark en Hugging Face, junto con su artículo técnico asociado.
Un usuario ha realizado un ajuste fino del modelo LFM2.5-230M de LiquidAI con las trazas de codificación de Fable-5 y lo ha publicado como un archivo GGUF para uso local.
La solicitud de extracción #20793 reintroduce una reducción en la sincronización durante las operaciones de cálculo dividido en llama.cpp, dirigida principalmente a mejoras de rendimiento en CUDA. Los cambios implican intercambiar copias sincrónicas por copias asíncronas y relajar los requisitos de sincronización entre las copias de entrada en backends compatibles.
El lanzamiento b9828 de llama.cpp introduce mejoras significativas en OpenCL, específicamente reestructurando los kernels de Flash Attention para precisión f16 y f32. Esta actualización incluye nuevos kernels de prefill prepass y soporte para formatos de cuantización q4_0 y q8_0.
Un usuario de Reddit solicita una línea de tiempo estimada para la fusión oficial del soporte de los modelos DeepSeek V4 Flash y MiniMax M3 en el repositorio principal de llama.cpp.
Un usuario de Reddit busca soluciones locales de habla a texto basadas en LLM para Windows que puedan rivalizar con Dragon Professional, específicamente en cuanto a la capacidad de editar texto pegado y cargar palabras durante la grabación.
El autor cuantificó el modelo deepreinforce-ai/Ornith-1.0-35B al formato Q3_K_M, reduciendo su tamaño a aproximadamente 17 GB de VRAM mientras mantenía la validez conductual mediante comprobaciones de divergencia KL.
ContextForge es un nuevo SDK diseñado para proporcionar un contexto efectivamente ilimitado para LLMs sin sobrecargar la ventana de prompt. Aborda el problema común de los sistemas de memoria a largo plazo que fallan durante ejecuciones extendidas al tratar la ventana de contexto como un conjunto de trabajo dinámico en lugar de almacenamiento permanente.