media r/LocalLLaMA · há 3 d · open_models

DeepSeek está treinando um modelo de 2T parâmetros e planeja um de 8T

Traduzido do English → Português (BR)

A DeepSeek está atualmente treinando um novo modelo com 2 trilhões de parâmetros, com planos de eventualmente construir um modelo de 8 trilhões de parâmetros.

A DeepSeek Flash atual tem 552 bilhões de parâmetros.
O DeepSeek Pro tem 1,6 trilhão de parâmetros totais com 49 bilhões de pesos ativados por token.
Estima-se que o modelo Mythos / Fable tenha uma contagem de 10 trilhões de parâmetros.

Importância 2/3 r/LocalLLaMA DeepSeek

Ler original

DeepSeek e Moonshot AI enfrentam investigação em Pequim por possíveis vazamentos de dados para a Anthropic

Reguladores chineses estão investigando a DeepSeek e a Moonshot AI por possíveis vazamentos de dados para a empresa dos EUA, a Anthropic. A investigação segue rumores sobre executivos da Kimi, embora a situação seja atualmente descrita como uma investigação em vez de prisões confirmadas.

arxiv arXiv cs.AI · há 3 d · 19 visualizações

CodeMidas escala ambientes de RL para codificação agêntica usando código-fonte

Pesquisadores apresentam o CodeMidas, um pipeline agêntico que constrói ambientes de aprendizado por reforço a partir da funcionalidade implementada em repositórios de código aberto, utilizando o código-fonte como única entrada. O método aloca computação agêntica para explorar a funcionalidade, construir testes fundamentados na execução e validar tarefas por meio de repetidas rollouts, resultando em um conjunto de dados com 5.545 tarefas de treinamento em 23 linguagens de programação. Treinar o MiMo-V2.5 nessas tarefas com GRPO melhora o desempenho em cinco benchmarks diversos, incluindo DeepSWE (+11,7%), ProgramBench (+17%) e Terminal-Bench v2.1 (+8,5%). A análise de trajetórias indica que o agente treinado com RL exibe comportamentos melhores, como maior exploração da base de código e autoverificação mais diversa. Esses resultados estabelecem o código-fonte como uma base escalável para a construção de ambientes de RL que melhoram agentes de codificação em diversas tarefas de software.

arxiv arXiv cs.CL · há 6 d · 26 visualizações

DeepSeek lança V4.1-Flash com footprint de cache KV de 890 bytes/token

A DeepSeek lançou o DeepSeek-V4.1-Flash, um modelo Mixture-of-Experts multimodal projetado para abordar os altos custos de computação de contexto longo e grandes caches KV em cargas de trabalho de agentes.

arxiv arXiv cs.AI · há 9 d · 26 visualizações

Prévia do Atria Dawn: modelo de linguagem agêntico fundamental para pesquisa científica

O Atria Dawn Preview é um modelo de linguagem agêntico fundamental projetado para fluxos de trabalho de pesquisa científica e engenharia, treinado por meio de um Pipeline de Experiência Verificável que conecta interações mediadas por ferramentas a ambientes executáveis. Em 16 benchmarks que abrangem pesquisa do mundo real, engenharia e trabalho digital, o modelo é competitivo em relação aos agentes de ponta e alcança a maior pontuação relatada em cinco deles.

media r/LocalLLaMA · há 10 d · 20 visualizações

DeepSeek V4.1 Flash lidera o Índice de Inteligência Artificial Analysis v4.3

DeepSeek V4.1 Flash assumiu o primeiro lugar na nova benchmark Astra dentro da atualização do Índice de Inteligência Artificial Analysis v4.3.