arxiv Moonshot AI (arXiv) · há 466 d

Microsoft lança Phi-4-Mini-Reasoning, um modelo de 3.8B que supera modelos de raciocínio maiores

Traduzido do English → Português (BR)

A Microsoft apresentou o Phi-4-Mini-Reasoning, um modelo compacto de 3,8 bilhões de parâmetros que alcança desempenho superior em raciocínio matemático em comparação com concorrentes significativamente maiores por meio de uma receita de treinamento sistemática de quatro etapas.

A metodologia envolve treinamento intermediário em larga escala em dados de cadeia de pensamento longa distilada, ajuste fino supervisionado, Rollout DPO usando conjuntos de preferência curados e aprendizado por reforço com recompensas verificáveis.

No benchmark Math-500, o Phi-4-Mini-Reasoning supera o DeepSeek-R1-Distill-Qwen-7B em 3,2 pontos e o DeepSeek-R1-Distill-Llama-8B em 7,7 pontos.

Os resultados validam que uma receita de treinamento cuidadosamente projetada com dados de cadeia de pensamento de alta qualidade pode desbloquear fortes capacidades de raciocínio em modelos de linguagem pequenos com recursos limitados.

Importância 1/3 Moonshot AI (arXiv) Microsoft Research Research paper Training methods

Benchmarks

Benchmark	Modelo	Pontuação
MATH-500	Llama-8B	89.1%
MATH-500	Qwen-1.5B	83.9%
MATH-500	Phi-4-Mini-Reasoning	3.2%

Ler original

Microsoft publica relatório técnico do Phi-4, modelo de 14B que utiliza dados sintéticos

A Microsoft publicou o relatório técnico do Phi-4, um modelo de linguagem com 14 bilhões de parâmetros que prioriza a qualidade dos dados por meio do uso estratégico de dados sintéticos durante todo o treinamento. Diferente dos modelos Phi anteriores, que destilavam capacidades do GPT-4, o Phi-4 supera seu professor em tarefas de QA focadas em STEM, demonstrando que suas técnicas de geração de dados e pós-treinamento vão além da simples destilação.

arxiv arXiv cs.LG · há 2 d

U-OPSD permite auto-distilação on-policy não supervisionada para LLMs

Pesquisadores propõem Auto-Distilação On-Policy Não Supervisionada (U-OPSD), um método que alcança melhoria no pós-treinamento para grandes modelos de linguagem usando apenas as próprias gerações do modelo, sem supervisão externa. A abordagem amostra múltiplas execuções para construir uma pseudo-solução por meio de votação majoritária, em seguida, destila a distribuição do professor nos prefixos do maior completamento incorreto do modelo.

media MarkTechPost · há 3 d

SkillOpt da Microsoft permite transferência de habilidades entre Codex e Claude Code

Pesquisadores da Microsoft, da Universidade Jiao Tong de Xangai, da Universidade Tongji e da Universidade Fudan desenvolveram o SkillOpt, um otimizador no espaço de texto que treina documentos de habilidade em linguagem natural enquanto mantém o modelo-alvo congelado. O sistema utiliza um modelo otimizador para propor edições limitadas com base em rollouts pontuados, exportando o resultado como um único arquivo `best_skill.md`.

arxiv arXiv cs.CL · há 9 d · 2 visualizações

Memory Decoder em Escala: Ampliando a memória paramétrica de longo prazo para 6,9B parâmetros

Pesquisadores apresentam o Memory Decoder at Scale, um sistema que amplia modelos de memória paramétrica de longo prazo até 6,9B parâmetros e os pré-treina em 300B tokens. Para lidar com a inviabilidade dos pipelines padrão do Faiss nessa escala de dados, os autores implementam um pipeline de indexação distribuído com carregamento esparsa e por lotes das distribuições kNN.

lab Microsoft Research Blog · há 9 d · 3 visualizações

Microsoft Research apresenta EvoLib para aprendizado em tempo de teste com uma biblioteca em evolução

A Microsoft Research apresentou o EvoLib, um framework que permite que modelos de linguagem grandes aprendam com sua própria experiência durante a inferência, sem exigir rótulos de verdade fundamental ou feedback externo. Em vez de armazenar experiências brutas como memórias estáticas, o EvoLib as transforma em habilidades reutilizáveis e insights reflexivos que são continuamente refinados, consolidados e reponderados.