arxiv arXiv cs.AI · há 1 h · research

MiLMMT-46-v1.0 melhora a tradução multilíngue por meio de pós-treinamento sem referência

Traduzido do English → Português (BR)

Pesquisadores desenvolveram o MiLMMT-46-v1.0, um modelo de tradução automática multilíngue que aplica pós-treinamento sem referência em grandes modelos de linguagem de código aberto. A equipe utiliza Otimização de Política Relativa de Grupo (GRPO) com uma recompensa baseada em dois modelos de estimativa de qualidade sem referência, controlada por identificação de idioma.

Partindo dos checkpoints MiLMMT-46-v0.1 ajustados supervisionadamente, os autores aplicam aprendizado por reforço e interpolam linearmente os resultados para criar o v1.0.
O modelo é avaliado em 46 idiomas e melhora consistentemente a qualidade da tradução em relação à sua contraparte de ajuste fino supervisionado.
Ele supera fortes linhas de base de código aberto, incluindo Seed-X, HY-MT2 e TranslateGemma.
Em comparação com sistemas proprietários como Google Translate, Gemini 3 Pro e GPT-5, ele alcança as melhores pontuações sem referência.
A destilação on-policy foi investigada, mas não superou a fronteira de qualidade alcançada pelo RL com interpolação de checkpoints.

Os autores lançam os modelos e o código para facilitar pesquisas futuras nesta área.

Importância 2/3 Supera um benchmark de um laboratório de ponta arXiv cs.AI 01.AI Tencent Open weights Training methods

Artigos relacionados

arxiv arXiv cs.CL · há 3 h

MiLMMT-46-v1.0 melhora a tradução multilíngue por meio de pós-treinamento sem referência

Pesquisadores lançaram o MiLMMT-46-v1.0, um modelo de linguagem grande de código aberto para tradução automática multilíngue que utiliza pós-treinamento sem referência. Partindo do MiLMMT-46-v0.1 ajustado por supervisão, a equipe aplicou Group Relative Policy Optimization (GRPO) com uma recompensa baseada em dois modelos de estimativa de qualidade sem referência, controlados por identificação de idioma.

media r/LocalLLaMA · há 12 d · 1 visualização

Huawei abre o código-fonte do openPangu-2.0-Pro, um modelo MoE de 505B-A18B

A Huawei lançou os pesos de código aberto para o openPangu-2.0-Pro, um modelo de linguagem grande (LLM) Mixture of Experts (MoE) treinado em hardware Ascend. O modelo possui 505 bilhões de parâmetros totais com 18 bilhões de parâmetros ativados e suporta um comprimento de contexto de 512k tokens.

media MarkTechPost · há 13 d

Tencent lança AngelSpec, um framework de treinamento unificado para MTP e decodificação especulativa em bloco-paralelo

A Tencent lançou o código aberto do AngelSpec, um framework de treinamento nativo para torch que suporta tanto a previsão multi-token autoregressiva (MTP) quanto os drafters da família DFlash em bloco-paralelo para modelos Hy3. O sistema trata a heterogeneidade da carga de trabalho como uma restrição primária de design, permitindo especializar estrutura, dados de treinamento e profundidade de verificação com base em casos de uso específicos.

media Hugging Face Forums · há 17 d · 1 visualização

CrowdTensor lança Beta de treinamento voluntário e RFC de Campanha Qwen2.5-7B GSM8K em rascunho

O CrowdTensor é um protocolo open-source Apache-2.0 para campanhas de treinamento de modelos por voluntários com checkpoints, que vincula revisões imutáveis de modelo e dados para fornecer a células CPU, GPU ou TPU admitidas trabalho limitado. O projeto lançou um processo de inscrição Beta junto com uma RFC em rascunho para uma campanha Qwen2.5-7B GSM8K.

lab Tencent Hunyuan (HF) · há 20 d · 2 visualizações

Tencent abre o código-fonte dos modelos de tradução multilíngue Hy-MT2 e do IFMTBench

A Tencent lançou a família de modelos de tradução multilíngue "de raciocínio rápido" Hy-MT2, incluindo tamanhos de 1.8B, 7B e 30B-A3B (MoE), juntamente com o benchmark IFMTBench para avaliar capacidades de seguimento de instruções.