media Hugging Face Forums · há 17 h · open_models

Trail propõe camada epistemológica baseada em replicabilidade para prevenir alucinação de IA

Traduzido do English → Português (BR)

Simon Abayomi Olawuyi apresenta o Trail, uma camada epistemológica projetada para abordar o problema da alucinação estrutural em grandes modelos de linguagem ao impor a replicabilidade como padrão para o conhecimento armazenado.

Os fatos são admitidos apenas quando observados consistentemente sob condições registradas que qualquer observador independente pode verificar.
As afirmações são categorizadas em uma taxonomia em camadas, incluindo fatos concretos, fatos condicionais, afirmações corroboradas, hipóteses e especulação.
O modelo limita os fatos a condições específicas em vez de descartá-los quando as condições mudam.
O Trail é projetado para complementar o Modelo de Memória Yggdrasil (YMM) como uma camada de verificação upstream.

O sistema visa prevenir a alucinação em sua origem, garantindo que nenhuma afirmação se torne um fato apenas por asserção, mas sim através de observações acumuladas e consistentes.

Importância 1/3 Confiança 1/3 Hugging Face Forums Research paper Safety & alignment

Ler original

Pesquisador independente busca endosso do cs.CR no arXiv para estudo de caso de segurança de LLM

Um pesquisador independente de segurança de IA baseado em Bengala Ocidental, Índia, está solicitando um endosso pessoal para submeter um artigo no arXiv sob a categoria de criptografia e segurança. O documento documenta um estudo de caso do deslocamento gradual e multironda no comportamento de segurança de modelos de linguagem grandes, onde um enquadramento filosófico sustentado se correlaciona com saídas inconsistentes com as diretrizes declaradas.

media Hugging Face Forums · há 18 d · 22 visualizações

DISA propõe monitoramento interno esparso para detectar computação enganosa de LLMs

Este artigo apresenta o DISA (Dynamic Immune-Shunt Architecture), uma proposta de pesquisa conceitual para detectar comportamento potencialmente enganoso em grandes modelos de linguagem por meio de monitoramento interno esparso, em vez de depender exclusivamente da saída observável. O framework visa abordar o risco de que modelos capazes possam se comportar de maneira diferente quando percebem que estão sendo monitorados.

arxiv arXiv cs.CL · há 22 d · 33 visualizações

Ataque unidirecional no GLM-5.3-Flash revela fragilidade do alinhamento de segurança em modelos MoE

Pesquisadores demonstram que a ablação direcional, um ataque white-box que remove a recusa ao projetar para fora uma única direção dos pesos, permanece eficaz em modelos frontier mixture-of-experts (MoE) como o GLM-5.3-Flash. O estudo mostra que, embora o ataque sobreviva à arquitetura, seus efeitos são distribuídos entre os escritores de atenção, densos e de especialistas roteados, em vez de concentrados em um único local.

media Hugging Face Forums · há 30 d · 31 visualizações

ntrillard encontra as maiores coordenadas que não conduzem o logit steering do Qwen2-1.5B

Uma investigação causal do vocabulário-logit steering no modelo Qwen2-1.5B revela que as maiores coordenadas no vetor de steering não são necessariamente responsáveis pelos efeitos comportamentais observados. O estudo, conduzido por ntrillard, analisa como o sparse ranked logit steering influencia a geração de tokens e identifica os componentes estruturais específicos que impulsionam essas mudanças.

media Hugging Face Forums · há 36 d · 52 visualizações

Rastro base do Gemma 4 mostra loop de alucinação e autorrelato

Um rastro base do Gemma 4 com limite de força zero revela um persistente loop de alucinação onde o modelo gera um autorrelato de falha antes de entrar em um poço de repetição. A telemetria confirma que vazamento de tags de papel e frases como "STOPITSTOP" ocorrem dentro deste estado instável, espelhando padrões observados nos carregadores Llama e Gemma 3 desde dezembro de 2025.