media r/LocalLLaMA · há 1 h · open_models

Meituan lança LongCat-Flash-Lite-Sparse com janela de contexto de 1M

Traduzido do English → Português (BR)

A Meituan lançou os pesos para o LongCat-Flash-Lite-Sparse, uma nova variante de seu modelo LongCat-Flash-Lite. A atualização introduz o LongCat Sparse Attention (LSA) para substituir o MLA denso e estende o suporte nativo ao comprimento do contexto para 1 milhão de tokens.

Substitui a Multi-Head Latent Attention densa pelo LongCat Sparse Attention (LSA).
Suporta nativamente comprimentos de contexto de até 1M tokens, em comparação com o limite anterior de 256k.
Os pesos agora estão disponíveis para download no Hugging Face.

Importância 2/3 r/LocalLLaMA Inference efficiency Open weights

Ler original

Tencent lança AngelSpec, um framework de treinamento unificado para MTP e decodificação especulativa em bloco-paralelo

A Tencent lançou o código aberto do AngelSpec, um framework de treinamento nativo para torch que suporta tanto a previsão multi-token autoregressiva (MTP) quanto os drafters da família DFlash em bloco-paralelo para modelos Hy3. O sistema trata a heterogeneidade da carga de trabalho como uma restrição primária de design, permitindo especializar estrutura, dados de treinamento e profundidade de verificação com base em casos de uso específicos.

lab Liquid AI · há 4 d

Liquid AI lança LFM2.5-Encoders para inferência rápida de contexto longo em CPU

A Liquid AI lançou dois novos modelos de codificação, LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, projetados para fornecer codificação bidirecional de alta qualidade com escalonamento eficiente até um comprimento de contexto de 8.192 tokens.

lab Hugging Face Blog · há 4 d

Liquid AI lança LFM2.5-Encoders para inferência rápida de contexto longo em CPU

A Liquid AI lançou dois modelos de codificador com pesos abertos, LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, projetados para inferência eficiente de contexto longo em CPUs. Esses modelos suportam um contexto de 8.192 tokens e são construídos convertendo os backbones do decodificador LFM2 em encoders bidirecionais usando modelagem de linguagem mascarada.

lab Tencent Hunyuan (HF) · há 9 d · 2 visualizações

Tencent abre o código-fonte dos modelos de tradução multilíngue Hy-MT2 e do IFMTBench

A Tencent lançou a família de modelos de tradução multilíngue "de raciocínio rápido" Hy-MT2, incluindo tamanhos de 1.8B, 7B e 30B-A3B (MoE), juntamente com o benchmark IFMTBench para avaliar capacidades de seguimento de instruções.

media MarkTechPost · há 15 d · 5 visualizações

PrismML lança Bonsai 27B, comprimindo Qwen3.6-27B para pesos de 1-bit e ternários

A PrismML lançou o Bonsai 27B, uma quantização de baixa precisão do modelo Qwen3.6-27B que permite executar grandes modelos multimodais em laptops e celulares sem necessidade de retreinamento.