media r/LocalLLaMA · há 2 d · open_models

inclusionAI lança o modelo multimodal Ling-3.0-flash-VL

Traduzido do English → Português (BR)

A inclusionAI lançou o modelo de código aberto Ling-3.0-flash-VL, que estende as capacidades linguísticas e de raciocínio de seu predecessor com compreensão nativa de imagens e vídeo.

O modelo de 124B parâmetros ativa apenas 5.5B parâmetros por token e suporta uma janela de contexto de até 1M tokens. Sua arquitetura apresenta um codificador visual ViT alinhado via projetor MLP, VideoRoPE para codificação temporal e um backbone híbrido alternando camadas KDA e Gated MLA.

Este design integra informações visuais no raciocínio do mundo real e fluxos de trabalho agênticos, mantendo a eficiência de inferência por meio de Mixture of Experts esparsa.

Importância 2/3 r/LocalLLaMA Multimodal Open weights

Ler original

DeepSeek lança V4-1 Flash, um modelo MoE de 552B com contexto de 1M tokens

A DeepSeek lançou seu novo modelo, o DeepSeek V4-1 Flash. É um modelo Mixture-of-Experts (MoE) multimodal que possui uma base de 552 bilhões de parâmetros.

lab Hugging Face Blog · há 7 d · 18 visualizações

NeoMME lança codificadores multimodais eficientes com recuperação de interação densa e tardia

Pesquisadores apresentam o NeoMME, uma família de codificadores multimodais multilíngues de 260M e 800M que processam texto e patches de imagem brutos usando um único Transformer bidirecional. Diferente dos modelos de linguagem visual generativos, o NeoMME não depende de torres de visão pré-treinadas separadas ou decodificadores causais, treinando todo o modelo do zero com um objetivo de difusão discreta mascarada.

media r/LocalLLaMA · há 10 d · 6 visualizações

DeepSeek lança DeepSeek-V4-Flash-Vision-Exp no Hugging Face

A DeepSeek publicou o checkpoint do modelo DeepSeek-V4-Flash-Vision-Exp no Hugging Face. O repositório já está disponível para acesso público.

media MarkTechPost · há 15 d · 40 visualizações

Equipe Qwen da Alibaba lança Qwen3.8-Flash-Next, uma prévia de 125B do MoE que antecipa o Qwen4

A equipe Qwen da Alibaba lançou o Qwen3.8-Flash-Next, um modelo Mixture-of-Experts multimodal de pesos abertos projetado para antecipar a arquitetura da próxima série Qwen4. O checkpoint combina uma base de 125B com uma tabela de embeddings N-gram de 51B e um módulo de previsão multi-token de 4B, ativando apenas 6B de parâmetros por token.

media r/LocalLLaMA · há 15 d · 57 visualizações

Zhipu AI lança GLM-5.3-Flash, um modelo de pesos abertos multimodal

A Zhipu AI lançou o GLM-5.3-Flash, o primeiro modelo nativamente multimodal da série GLM-5 e o primeiro lançamento de pesos abertos da arquitetura glm5_next. O modelo com 320B parâmetros é treinado em um corpus multimodal de 30T tokens e apresenta um mecanismo de atenção híbrido esparso e linear para reduzir os custos de serviço de contexto longo.