arxiv Moonshot AI (arXiv) · há 605 d

Microsoft publica relatório técnico do Phi-4, modelo de 14B que utiliza dados sintéticos

Traduzido do English → Português (BR)

A Microsoft publicou o relatório técnico do Phi-4, um modelo de linguagem com 14 bilhões de parâmetros que prioriza a qualidade dos dados por meio do uso estratégico de dados sintéticos durante todo o treinamento. Diferente dos modelos Phi anteriores, que destilavam capacidades do GPT-4, o Phi-4 supera seu professor em tarefas de QA focadas em STEM, demonstrando que suas técnicas de geração de dados e pós-treinamento vão além da simples destilação.

O modelo utiliza uma receita de treinamento focada em dados sintéticos de alta qualidade, em vez de apenas conteúdo orgânico da web ou código.
O Phi-4 supera substancialmente o GPT-4 nas capacidades de resposta a perguntas focadas em STEM.
Ele alcança desempenho robusto em relação ao seu tamanho, especialmente em benchmarks focados em raciocínio, devido à melhoria nos dados, no currículo de treinamento e nas inovações de pós-treinamento.

O relatório destaca que, apesar das mínimas mudanças arquiteturais em relação ao phi-3, o foco na qualidade dos dados permite que o modelo exceda as capacidades do professor em domínios específicos.

Importância 1/3 Moonshot AI (arXiv) Microsoft Research Research paper Training methods

Artigos relacionados

arxiv Moonshot AI (arXiv) · há 466 d

Microsoft lança Phi-4-Mini-Reasoning, um modelo de 3.8B que supera modelos de raciocínio maiores

A Microsoft apresentou o Phi-4-Mini-Reasoning, um modelo compacto de 3,8 bilhões de parâmetros que alcança desempenho superior em raciocínio matemático em comparação com concorrentes significativamente maiores por meio de uma receita de treinamento sistemática de quatro etapas.

arxiv arXiv cs.LG · há 2 d

U-OPSD permite auto-distilação on-policy não supervisionada para LLMs

Pesquisadores propõem Auto-Distilação On-Policy Não Supervisionada (U-OPSD), um método que alcança melhoria no pós-treinamento para grandes modelos de linguagem usando apenas as próprias gerações do modelo, sem supervisão externa. A abordagem amostra múltiplas execuções para construir uma pseudo-solução por meio de votação majoritária, em seguida, destila a distribuição do professor nos prefixos do maior completamento incorreto do modelo.

media MarkTechPost · há 3 d

SkillOpt da Microsoft permite transferência de habilidades entre Codex e Claude Code

Pesquisadores da Microsoft, da Universidade Jiao Tong de Xangai, da Universidade Tongji e da Universidade Fudan desenvolveram o SkillOpt, um otimizador no espaço de texto que treina documentos de habilidade em linguagem natural enquanto mantém o modelo-alvo congelado. O sistema utiliza um modelo otimizador para propor edições limitadas com base em rollouts pontuados, exportando o resultado como um único arquivo `best_skill.md`.

arxiv arXiv cs.CL · há 9 d · 2 visualizações

Memory Decoder em Escala: Ampliando a memória paramétrica de longo prazo para 6,9B parâmetros

Pesquisadores apresentam o Memory Decoder at Scale, um sistema que amplia modelos de memória paramétrica de longo prazo até 6,9B parâmetros e os pré-treina em 300B tokens. Para lidar com a inviabilidade dos pipelines padrão do Faiss nessa escala de dados, os autores implementam um pipeline de indexação distribuído com carregamento esparsa e por lotes das distribuições kNN.

lab Microsoft Research Blog · há 10 d · 3 visualizações

Microsoft Research apresenta EvoLib para aprendizado em tempo de teste com uma biblioteca em evolução

A Microsoft Research apresentou o EvoLib, um framework que permite que modelos de linguagem grandes aprendam com sua própria experiência durante a inferência, sem exigir rótulos de verdade fundamental ou feedback externo. Em vez de armazenar experiências brutas como memórias estáticas, o EvoLib as transforma em habilidades reutilizáveis e insights reflexivos que são continuamente refinados, consolidados e reponderados.