arxiv arXiv cs.CL · há 7 h · fonte: há 2 d · research

TelecomGPT-R1: Pós-treinamento unificado para raciocínio em tarefas de telecomunicações heterogêneas

Traduzido do English → Português (BR)

Pesquisadores apresentam o TelecomGPT-R1, uma família de modelos de raciocínio unificados de telecomunicações de código aberto, projetados para automatizar tarefas de engenharia por meio do raciocínio sobre padrões, configurações e logs. O modelo aborda as limitações dos LLMs generalistas e especializados existentes por meio de uma abordagem estruturada que abrange os eixos de protocolo, conhecimento, modelagem e falhas.

Um framework de geração de dados orientado por eixos refina artefatos públicos de telecomunicações em 104.880 pares de pergunta-resposta verificados com raciocínio em cadeia de pensamento.
O ajuste fino supervisionado (SFT) incorpora conhecimento de telecomunicações para superar a barreira do início frio no aprendizado por reforço.
A otimização da política de amostragem dinâmica (DAPO) com recompensas baseadas em rubricas roteadas por tarefa estabiliza as atualizações de RL em tarefas heterogêneas.
O modelo TelecomGPT-R1-27B alcança uma pontuação média de 89,64% em sete benchmarks do GSMA Open Telco Leaderboard, superando GPT-5, Claude e Gemini.

Os autores lançam os modelos e uma receita de treinamento reproduzível para apoiar o desenvolvimento da comunidade na automação de telecomunicações.

Importância 2/3 arXiv cs.CL Zhipu AI Reasoning models Research paper

Artigos relacionados

arxiv arXiv cs.CL · há 75 d · 17 visualizações

Sonda nas representações internas do Eternis-Forecaster 8B revela que melhoram a calibração e expõem problemas de fidelidade no raciocínio em cadeia

Pesquisadores investigaram se as representações internas em grandes modelos de linguagem fornecem uma janela mais direta para calibração e fidelidade do que o raciocínio em cadeia (CoT). Trabalhando com Eternis-Forecaster 8B no OpenForesight, eles treinaram sondas de agrupamento de representações em ativações intermediárias que alcançaram calibração substancialmente melhor em comparação com as saídas padrão do modelo.

arxiv Moonshot AI (arXiv) · há 595 d · 26 visualizações

GAIR-NLP lança LIMO, alcançando forte raciocínio matemático com 817 amostras

A GAIR-NLP apresenta o LIMO, um modelo que demonstra que o raciocínio matemático complexo pode ser efetivamente elicidado usando apenas 817 amostras de treinamento curadas. Esta abordagem desafia a suposição convencional de que o ajuste fino supervisionado requer conjuntos de dados massivos para evitar memorização.

arxiv arXiv cs.LG · há 1 d · 9 visualizações

Fathom-Vaidya melhora o raciocínio médico com recompensas baseadas em rubricas

Os autores apresentam o Fathom-Vaidya, um modelo de 30B parâmetros que utiliza dados sintéticos e aprendizado por reforço baseado em rubricas para aprimorar o raciocínio diagnóstico e clínico na saúde. A estrutura de treinamento primeiro aplica RL guiado por regras a perguntas derivadas do MedBullets para diagnóstico, depois utiliza 5.3k cenários sintéticos multi-turno com rubricas multidimensionais para tarefas clínicas interativas.

media Hugging Face Forums · há 2 d · 15 visualizações

Proposta para um sistema de decomposição de proposições e raciocínio orientado por contradições

Um autor propõe um design de pesquisa para um sistema de raciocínio que detecta contradições entre duas proposições ao decompor as mesmas em componentes menores e buscar colisões lógicas, em vez de depender do julgamento direto de LLM.

arxiv arXiv cs.CL · há 13 d · 28 visualizações

Ataque unidirecional no GLM-5.3-Flash revela fragilidade do alinhamento de segurança em modelos MoE

Pesquisadores demonstram que a ablação direcional, um ataque white-box que remove a recusa ao projetar para fora uma única direção dos pesos, permanece eficaz em modelos frontier mixture-of-experts (MoE) como o GLM-5.3-Flash. O estudo mostra que, embora o ataque sobreviva à arquitetura, seus efeitos são distribuídos entre os escritores de atenção, densos e de especialistas roteados, em vez de concentrados em um único local.