media Hugging Face Forums · há 1 h · open_models

AbstractPhil lança Beatrix V3, um modelo de byte-level com 376M e memória splat

Traduzido do English → Português (BR)

A AbstractPhil lançou o Beatrix V3, um modelo de linguagem de nível de byte com 376 milhões de parâmetros que utiliza "memória splat" em cada bloco de atenção. O modelo possui vocabulário de 256 e janela de contexto de 4.096 bytes, treinado com 64,4 bilhões de bytes em duas placas RTX 5090.

A arquitetura atinge 0,9861 bits por byte em texto web retido sem picos de perda.
Inclui adaptadores destacáveis de 13,7 milhões de parâmetros após cada bloco para lidar com etapas específicas do currículo.
O modelo demonstra fortes capacidades de codificação de texto, igualando o desempenho do T5 em seus blocos médios.
A memória splat mostra limitações na recuperação de longo alcance em comparação com controles softmax, impulsionando planos para uma abordagem híbrida.

O lançamento inclui os pesos do modelo e documentação técnica, convidando a feedback sobre melhorias arquiteturais como mecanismos de atenção híbrida e módulos de memória esquecida.

Importância 1/3 Confiança 1/3 Hugging Face Forums Hugging Face Research paper Training methods

Ler original

A destilação de poder on-policy afia o raciocínio de modelos de linguagem sem busca

Pesquisadores introduzem a Destilação de Poder On-Policy (OPPD), um método que treina modelos para gerar respostas de alta qualidade em uma única passagem, imitando a distribuição de probabilidade afinada de um modelo professor. Esta abordagem elimina a necessidade de amostragem extensiva de candidatos durante a inferência, enquanto aumenta significativamente o desempenho em benchmarks matemáticos e de codificação.

arxiv arXiv cs.LG · há 1 d · 1 visualização

A destilação de poder on-policy aprimora o raciocínio sem busca

Pesquisadores introduzem a Destilação de Poder On-Policy (OPPD), um método que treina modelos de linguagem para gerar respostas de alta qualidade em uma única passagem, imitando a distribuição de probabilidade afiada de um modelo professor. Essa abordagem elimina a necessidade de amostragem extensiva de candidatos durante a inferência, ao mesmo tempo em que impulsiona significativamente o desempenho em tarefas de raciocínio.

media r/LocalLLaMA · há 4 d · 29 visualizações

Hugging Face publica guia para treinamento de RL com múltiplos harnesses

Lewis da equipe de pós-treinamento do Hugging Face publicou um guia abrangente sobre o treinamento de modelos abertos usando diferentes harnesses de codificação. O artigo detalha como a equipe resolveu esse desafio aproveitando bibliotecas de código aberto, como TRL e o framework Harbor para ambientes de aprendizado por reforço.

arxiv arXiv cs.LG · há 15 d · 40 visualizações

Fathom-Vaidya melhora o raciocínio médico com recompensas baseadas em rubricas

Os autores apresentam o Fathom-Vaidya, um modelo de 30B parâmetros que utiliza dados sintéticos e aprendizado por reforço baseado em rubricas para aprimorar o raciocínio diagnóstico e clínico na saúde. A estrutura de treinamento primeiro aplica RL guiado por regras a perguntas derivadas do MedBullets para diagnóstico, depois utiliza 5.3k cenários sintéticos multi-turno com rubricas multidimensionais para tarefas clínicas interativas.

arxiv arXiv cs.AI · há 15 d · 41 visualizações

Fathom-Vaidya melhora o raciocínio médico com recompensas baseadas em rubricas

Os autores apresentam o Fathom-Vaidya, um modelo de 30B parâmetros que utiliza dados sintéticos e aprendizado por reforço baseado em rubricas para aprimorar tanto o raciocínio diagnóstico quanto o clínico na saúde. A estrutura de treinamento primeiro visa a precisão diagnóstica usando perguntas derivadas do MedBullets e depois aborda interações clínicas multironda através de 5.3k cenários gerados com rubricas multidimensionais.