media Hugging Face Forums · há 1 h · open_models

Cymela descobre que estados latentes no raciocínio contínuo contêm informações da pergunta, mas são inutilizáveis pelo decodificador

Traduzido do English → Português (BR)

Pesquisadores da Cymela investigando o raciocínio contínuo no espaço latente com o modelo Monarch Chrysalis v1 observaram um modo de falha específico onde as representações internas do modelo não auxiliam eficazmente a geração. Embora testes causais tenham confirmado que os vetores latentes são claramente específicos da pergunta e variam substancialmente entre prompts, transplantar esses estados entre problemas mostrou que a qualidade da resposta mal muda.

O decodificador downstream parece ser insensível à informação específica da tarefa presente no canal latente.
A equipe identificou problemas de arquitetura e treinamento desde o checkpoint inicial e está executando uma arquitetura revisada.
Um checkpoint público para o modelo hyper-3b-latent foi lançado junto com as descobertas.

Os autores não estão afirmando que o mecanismo funciona ainda e estão retendo afirmações adicionais até que as execuções atuais determinem se as mudanças na arquitetura resolvem o problema.

Importância 1/3 Confiança 1/3 Hugging Face Forums Research paper Training methods

Artigos relacionados

media Hugging Face Forums · há 4 d · 2 visualizações

Experimentos sugerem que redes neurais são sistemas dinâmicos clássicos com estado

Um pesquisador conduziu experimentos causais no nanoGPT, ResNet-18 e uma U-Net de difusão para investigar a mecânica do treinamento, aprendizado e inferência. Os resultados indicam que esses processos formam um ciclo contínuo onde atualizações causam respostas não lineares e reorganização funcional persistente, que então influenciam os estados subsequentes.

arxiv arXiv cs.AI · há 6 d · 3 visualizações

PLVR usa retropropagação simbólica para aprender programas de raciocínio verificáveis

Pesquisadores apresentam o PLVR (Program Learning with Verifiable Rewards), um método pós-treinamento que aprende programas de raciocínio explícitos compostos por primitivas determinísticas e neurais, em vez de atualizar os pesos do modelo. A abordagem utiliza retropropagação simbólica, onde a atribuição de crédito é realizada via inferência de tipos sobre as assinaturas das primitivas em vez de estimativa.

arxiv arXiv cs.CL · há 9 d · 9 visualizações

Métrica STAR e framework StarPO melhoram o alinhamento na tradução automática de documento para documento

Pesquisadores introduzem Sentence Translation Alignment Rate (STAR), uma métrica auxiliar projetada para quantificar a fidelidade estrutural em nível de sentença na tradução automática de documento para documento, abordando problemas como omissões e alucinações. Eles propõem STAR-masked Preference Optimization (StarPO), um framework que classifica hipóteses por qualidade estrutural e usa uma máscara de alinhamento dinâmica para focar a otimização nos segmentos desalinhados.

arxiv arXiv cs.AI · há 17 d · 17 visualizações

Harness Continual Learning adapta o estado do agente fora dos parâmetros congelados do modelo

Os autores introduzem o Harness Continual Learning (HCL), um paradigma onde um agente melhora evoluindo seu harness voltado à execução em vez de atualizar os parâmetros do modelo. Esta abordagem aborda o desafio de reter o comportamento previamente adquirido enquanto se adapta a novas experiências por meio de componentes como prompts, memórias e regras de roteamento.

media r/LocalLLaMA · há 18 d · 13 visualizações

Z.ai escala o pós-treinamento do GLM-5.3 para melhorar o raciocínio de longo prazo

A Z.ai lançou o GLM-5.3, um experimento controlado que demonstra que escalar o pós-treinamento gera ganhos significativos no raciocínio de longo prazo sem alterar o modelo base ou a contagem de parâmetros.