media r/LocalLLaMA · hace 1 h · open_models

Meituan lanza LongCat-Flash-Lite-Sparse con ventana de contexto de 1M

Traducido del English → Español

Meituan ha publicado los pesos para LongCat-Flash-Lite-Sparse, una nueva variante de su modelo LongCat-Flash-Lite. La actualización introduce LongCat Sparse Attention (LSA) para reemplazar el MLA denso y extiende el soporte nativo de longitud de contexto a 1 millón de tokens.

Reemplaza la Multi-Head Latent Attention densa con LongCat Sparse Attention (LSA).
Admite nativamente longitudes de contexto de hasta 1M tokens, en comparación con el límite anterior de 256k.
Los pesos ya están disponibles para descargar en Hugging Face.

Importancia 2/3 r/LocalLLaMA Inference efficiency Open weights

Leer original

Tencent lanza AngelSpec, un marco de entrenamiento unificado para MTP y descodificación especulativa en paralelo por bloques

Tencent ha liberado como código abierto AngelSpec, un marco de entrenamiento nativo de torch que soporta tanto la predicción multi-token autoregresiva (MTP) como los drafters de la familia DFlash en bloque-paralelo para modelos Hy3. El sistema trata la heterogeneidad de la carga de trabajo como una restricción de diseño principal, lo que le permite especializar la estructura, los datos de entrenamiento y la profundidad de verificación según casos de uso específicos.

lab Liquid AI · hace 4 d

Liquid AI lanza LFM2.5-Encoders para inferencia rápida de contexto largo en CPU

Liquid AI ha lanzado dos nuevos modelos de codificador, LFM2.5-Encoder-230M y LFM2.5-Encoder-350M, diseñados para proporcionar una codificación bidireccional de alta calidad con escalado eficiente hasta una longitud de contexto de 8.192 tokens.

lab Hugging Face Blog · hace 4 d

Liquid AI lanza LFM2.5-Encoders para inferencia rápida de contexto largo en CPU

Liquid AI ha lanzado dos modelos de codificador con pesos abiertos, LFM2.5-Encoder-230M y LFM2.5-Encoder-350M, diseñados para una inferencia eficiente de contexto largo en CPUs. Estos modelos admiten un contexto de 8.192 tokens y están construidos convirtiendo las bases del decodificador LFM2 en codificadores bidireccionales mediante modelado de lenguaje enmascarado.

lab Tencent Hunyuan (HF) · hace 9 d · 2 vistas

Tencent abre el código fuente de los modelos de traducción multilingüe Hy-MT2 y IFMTBench

Tencent ha lanzado la familia de modelos de traducción multilingüe "de pensamiento rápido" Hy-MT2, que incluye tamaños de 1.8B, 7B y 30B-A3B (MoE), junto con el benchmark IFMTBench para evaluar las capacidades de seguimiento de instrucciones.

media MarkTechPost · hace 15 d · 5 vistas

PrismML lanza Bonsai 27B, comprimiendo Qwen3.6-27B a pesos de 1 bit y ternarios

PrismML ha lanzado Bonsai 27B, una cuantización de bajo ancho de banda del modelo Qwen3.6-27B que permite ejecutar grandes modelos multimodales en portátiles y teléfonos sin necesidad de reentrenamiento.