arxiv Moonshot AI (arXiv) · há 452 d

Qwen3 introduz modo de raciocínio unificado e amplia suporte multilíngue para 119 idiomas

Traduzido do English → Português (BR)

O Relatório Técnico do Qwen3 apresenta a versão mais recente da família de modelos Qwen, com arquiteturas densas e Mixture-of-Expert (MoE) e escalas de parâmetros de 0,6 a 235 bilhões. Uma inovação chave é a integração do modo de raciocínio para raciocínio complexo e do modo sem raciocínio para respostas rápidas em um framework unificado, eliminando a necessidade de alternar entre diferentes modelos.

O Qwen3 introduz um mecanismo de orçamento de raciocínio que permite aos usuários alocar recursos computacionais de forma adaptativa durante a inferência para equilibrar latência e desempenho.
A série de modelos alcança resultados de ponta em diversos benchmarks, incluindo geração de código, raciocínio matemático e tarefas de agente.
O suporte multilíngue é expandido de 29 para 119 idiomas e dialetos em comparação com seu antecessor Qwen2.5.
Todos os modelos Qwen3 estão acessíveis publicamente sob a licença Apache 2.0 para facilitar a reprodutibilidade e a pesquisa impulsionada pela comunidade.

Essa abordagem unificada permite a alternância dinâmica de modo com base nas consultas do usuário, enquanto o suporte expandido a idiomas melhora a acessibilidade global por meio de uma melhor compreensão interlingual.

Importância 3/3 Moonshot AI (arXiv) Alibaba (Qwen) Open weights Research paper

Artigos relacionados

arxiv Moonshot AI (arXiv) · há 452 d · 2 visualizações

Qwen3 introduz modo unificado de raciocínio e suporte a 119 idiomas

O Relatório Técnico do Qwen3 apresenta uma nova série de modelos de linguagem grandes (LLMs) de pesos abertos, variando de 0,6 a 235 bilhões de parâmetros, com arquiteturas densas e Mixture-of-Experts. Uma inovação chave é a integração do "modo de raciocínio" para raciocínio complexo e do "modo sem raciocínio" para respostas rápidas em um único framework, permitindo alternância dinâmica sem troca de modelo.

arxiv Moonshot AI (arXiv) · há 598 d

Qwen2.5 introduz modelos densos e MoE com 18T de tokens de pré-treinamento

O Relatório Técnico do Qwen2.5 detalha o lançamento de uma série abrangente de modelos de linguagem grandes, incluindo variantes densas de peso aberto e modelos proprietários de mistura de especialistas (MoE). A atualização escala significativamente os dados de pré-treinamento de 7 trilhões para 18 trilhões de tokens e emprega mais de 1 milhão de amostras para o pós-treinamento por meio de ajuste fino supervisionado e aprendizado por reforço.

arxiv Moonshot AI (arXiv) · há 598 d

Qwen2.5 escala o pré-treinamento para 18 trilhões de tokens e usa RL multietapas

A Alibaba lançou o relatório técnico do Qwen2.5, apresentando uma série abrangente de modelos de linguagem grandes com melhorias significativas tanto nas etapas de pré-treinamento quanto de pós-treinamento. A atualização escala conjuntos de dados de pré-treinamento de alta qualidade de 7 trilhões para 18 trilhões de tokens e implementa ajuste fino supervisionado intricado com mais de 1 milhão de amostras junto com aprendizado por reforço multietapas.

arxiv Moonshot AI (arXiv) · há 755 d

Equipe Qwen lança série Qwen2 com modelos densos e MoE de 72B

A equipe Qwen publicou o relatório técnico do Qwen2, apresentando uma nova série de grandes modelos de linguagem com parâmetros variando de 0,5 a 72 bilhões, incluindo tanto arquiteturas densas quanto Mixture-of-Experts (MoE).

arxiv Moonshot AI (arXiv) · há 755 d

Relatório Técnico do Qwen2 apresenta modelos densos e MoE até 72B

O Relatório Técnico do Qwen2 apresenta a série Qwen2, um novo conjunto de modelos de linguagem grande e multimodais fundamentais e ajustados para instruções, variando de 0,5 a 72 bilhões de parâmetros. Este lançamento inclui tanto arquiteturas densas quanto um modelo Mixture-of-Experts, com o principal Qwen2-72B demonstrando desempenho competitivo contra modelos proprietários em vários benchmarks.