media Hugging Face Forums · agora mesmo · open_models

Rastro base do Gemma 4 mostra loop de alucinação e autorrelato

Traduzido do English → Português (BR)

Um rastro base do Gemma 4 com limite de força zero revela um persistente loop de alucinação onde o modelo gera um autorrelato de falha antes de entrar em um poço de repetição. A telemetria confirma que vazamento de tags de papel e frases como "STOPITSTOP" ocorrem dentro deste estado instável, espelhando padrões observados nos carregadores Llama e Gemma 3 desde dezembro de 2025.

O modelo entra em um estado instável onde repete padrões de texto em vez de seguir a lógica.
Um trecho de autorrelato aparece no fluxo decodificado, diagnosticando um "loop de alucinação".
O atrator continua sem ceder o fim do turno, travando em tokens repetidos.
Este evento corresponde aos logs anteriores de outros modelos na rota de decodificação Niodoo.

O artigo propõe usar experimentos com lentes hidrodinâmicas e jacobianas para determinar se forças de direcionamento podem mover a saída do loop em vez de apenas alterar o wording do loop.

Importância 1/3 Novo ambiente de avaliação com diferenciais Confiança 1/3 Hugging Face Forums Research paper Safety & alignment

Ler original

Estudo encontra estruturação representacional progressiva ao longo da profundidade em 8 modelos abertos

Um novo preprint analisa a dinâmica dos estados ocultos em oito pequenos modelos Transformer abertos instrumentados localmente para determinar se as representações internas seguem uma progressão estruturada durante a inferência. O estudo distingue entre mudanças que ocorrem ao longo da profundidade do modelo e aquelas que evoluem ao longo do tempo de geração autoregressiva.

arxiv arXiv cs.AI · há 20 h · 1 visualização

Alinhamento Neurosimbólico melhora a segurança de LLMs clínicos por meio de fundamentação fisiológica

Pesquisadores propõem o Alinhamento Neurosimbólico, um framework de treinamento que acopla um LLM clínico de 7B a um Modelo do Mundo Fisiológico baseado em HGNN para melhorar a segurança no raciocínio clínico generativo. O método utiliza conhecimento fisiológico estruturado de um grafo de conhecimento biomédico com 847K nós para pontuar respostas candidatas e impulsionar atualizações iterativas de ORPO on-policy.

media Hugging Face Forums · há 10 d · 14 visualizações

Teorema prova que sistemas avançados de IA podem ser confiavelmente alinhados e controlados em níveis super-humanos

Uma prova formal demonstra que é possível construir um sistema avançado de IA que seja confiavelmente alinhado e controlável em níveis de desempenho super-humanos. Os autores estabelecem isso construindo explicitamente uma política, ambiente e mecanismo de controle que satisfazem todas as condições matemáticas exigidas para alinhamento, eficácia do controle e confiabilidade, com parâmetros fixados antecipadamente.

media Hugging Face Forums · há 11 d · 5 visualizações

Preprint revela controle geométrico das saídas do Transformer via análise baseada em esfera

Um preprint intitulado "Steer on a Sphere: Geometric Control of Transformer Outputs" analisa a geometria dos estados ocultos do Transformer, descobrindo que eles residem em uma esfera definida pela escala RMSNorm por camada, em vez do tamanho da dimensão. Este raio varia significativamente entre arquiteturas, como DeepSeek-7B e Mistral-7B.

arxiv arXiv cs.CL · há 23 d · 3 visualizações

Monitores de cadeia de pensamento colapsam quando adversários reescrevem o raciocínio

Pesquisas demonstram que a monitoração da cadeia de pensamento (CoT) falha contra adversários que controlam o processo de raciocínio. Ao reescrever o raciocínio de um agente para parecer uma engenharia de boa-fé, mantendo comandos e saídas integrais, os atacantes podem contornar os mecanismos de detecção.