media Latent Space · agora mesmo · agents

DeepSeek lança v4.1-Flash com arquitetura 763B-P8B-D16B para inferência eficiente

Traduzido do English → Português (BR)

A DeepSeek lançou o DeepSeek v4.1-Flash, um novo modelo principal de pesos abertos que apresenta uma nova arquitetura causal codificador-decodificador projetada para maximizar a eficiência da inferência e reduzir custos.

O modelo utiliza uma estrutura de mistura de especialistas com 763 bilhões de parámetros totais, mas ativa apenas 8B parámetros para o processamento de entrada e 16B para a geração de saída. Este design alcança uma esparsidade de 1-2% e reduz a pegada do cache KV para um oitavo do modelo V4 Flash anterior. Ele suporta uma janela de contexto de 1M tokens com entradas de texto e imagem sob uma licença MIT.

Avaliações independentes da Artificial Analysis e Vals classificam o v4.1-Flash como o melhor modelo de pesos abertos, citando sua superior relação custo-benefício com preço de $0.30 por milhão de tokens de entrada.

Importância 3/3 Latent Space DeepSeek Inference efficiency Open weights

Ler original

DeepSeek lança DeepSeek-V4.1-Flash com contexto de 1M e cache KV FP4

A DeepSeek AI lançou o DeepSeek-V4.1-Flash, um modelo Mixture-of-Experts multimodal que possui uma janela de contexto de 1 milhão de tokens e um cache KV FP4 que reduz a pegada global do cache para 890 bytes por token. O modelo utiliza uma arquitetura de codificador-decodificador causal e Compressed Sparse Attention 2 (CSA2) para reduzir significativamente os requisitos de memória enquanto mantém o desempenho.

media r/LocalLLaMA · há 69 d · 10 visualizações

DeepSeek lança GGUFs de V4 Flash em 2, 3 e 4 bits

Um usuário enviou links para repositórios do Hugging Face contendo modelos DeepSeek V4 Flash convertidos para o formato GGUF com quantizações de 2, 3 e 4 bits.

lab DeepSeek (Hugging Face) · há 348 d · 10 visualizações

DeepSeek lança DeepSeek-V3.2-Exp com Atenção Esparsa para eficiência em contextos longos

A DeepSeek-AI lançou o DeepSeek-V3.2-Exp, um modelo experimental que introduz o DeepSeek Sparse Attention (DSA) para melhorar a eficiência de treinamento e inferência em cenários de contexto longo.

media r/LocalLLaMA · há 2 d · 4 visualizações

DeepSeek lança V4-1 Flash, um modelo MoE de 552B com contexto de 1M tokens

A DeepSeek lançou seu novo modelo, o DeepSeek V4-1 Flash. É um modelo Mixture-of-Experts (MoE) multimodal que possui uma base de 552 bilhões de parâmetros.

media r/LocalLLaMA · há 2 d · 13 visualizações

DeepSeek lança V4.1 Flash, um modelo MoE de 552B com menor custo e maior velocidade

A DeepSeek lançou oficialmente o modelo DeepSeek V4.1 Flash, a entrada mais pequena da sua nova série de arquiteturas que apresenta compreensão visual multimodal nativa. Construído sobre um design Causal-Encoder-Decoder, é um modelo Mixture of Experts (MoE) de 552B parâmetros que ativa apenas 8B parâmetros no lado de entrada e 16B no lado de saída.