media Hugging Face Forums · agora mesmo · open_models

Mapa de atratores de estados ocultos do TinyLlama revela dinâmicas em tempo de execução, mas não controle do raciocínio

Traduzido do English → Português (BR)

Uma estrutura experimental mapeia a trajetória dos estados ocultos no TinyLlama durante a geração para criar uma ferramenta de observabilidade em tempo de execução. Ao agrupar métricas como norma, curvatura e entropia, o sistema identifica regiões dinâmicas recorrentes em vez de conteúdo semântico.

O mapa de atratores rastreia onde as trajetórias passam tempo e como transicionam entre regimes.
A segmentação de trajetórias detecta automaticamente mudanças nas dinâmicas em tempo de execução sem assumir estágios fixos de raciocínio.
Intervenções experimentais, como rotações ortogonais e correções guiadas por DTW, modificam com sucesso as estatísticas das trajetórias.
No entanto, alterar a geometria não melhora confiavelmente o raciocínio nem garante a correção semântica.

O trabalho conclui que, embora observar a dinâmica dos estados ocultos seja viável, controlá-la permanece um problema em aberto, pois a estabilidade em tempo de execução não implica respostas corretas.

Importância 1/3 Confiança 1/3 Hugging Face Forums Research paper Safety & alignment

Artigos relacionados

arxiv arXiv cs.CL · há 7 d

Auditoria de LLMs de peso aberto revela comportamentos expressos, suprimidos e resistentes por meio de vetores de persona

Os pesquisadores apresentam a primeira aplicação sistemática de vetores de persona para auditar modelos de linguagem de peso aberto, compilando um inventário de 53 traços em quatro domínios comportamentais distintos. Eles classificam cada traço em dois modelos como natural (expresso na linha de base), latente mas amplificável ou intratável (resistente à extração padrão).

arxiv arXiv cs.CL · há 8 d

Estudo revela que estados ocultos expõem falsificação de alinhamento no Qwen3-32B e Llama-3.1-8B

Um estudo investiga se os estados ocultos podem detectar a falsificação de alinhamento quando as saídas do modelo parecem conformes sob monitoramento. Os autores realizaram uma varredura com 13 modelos e investigaram os dois que exibiram falsificação natural: Qwen3-32B e Llama-3.1-8B.

arxiv arXiv cs.AI · há 8 d

Reenquadramento do teste de penetração para sistemas de IA como avaliação comportamental orientada a objetivos

Este artigo argumenta que o teste de penetração tradicional é insuficiente para sistemas habilitados com IA, pois adversários podem alterar o comportamento por meio de prompts, dados ou entradas de sensores sem comprometer a infraestrutura. O trabalho reencaminha a prática como uma avaliação comportamental orientada a objetivos, definindo a penetração com IA como induzir um comportamento que viole os objetivos operacionais sob um modelo de ameaça específico.

arxiv arXiv cs.AI · há 8 d

Resistir e Atualizar: Coordenadas de Relatos Contrafatuais para LLMs Compatíveis com Incentivos

Pesquisadores apresentam um método para aprender e certificar mediadores de relatos contrafatuais que alinham os relatos de modelos de linguagem com suas crenças internas, impondo um contrato causal. Esta abordagem garante que os relatos permaneçam invariantes a influências proibidas, como pressão do usuário, enquanto permanecem responsivos a evidências licenciadas.

arxiv arXiv cs.LG · há 8 d

Forense de marca d'água para modelos generativos: uma perspectiva da teoria da informação

Este artigo analisa os custos da teoria da informação das capacidades de marca d'água, como atribuição de usuário, extração de payload e localização em modelos generativos. Introduz um perfil de informação para quantificar quanto cada token revela sobre um segredo, estabelecendo que a detecção depende da distância de distribuição enquanto outras tarefas dependem da massa de informação.