media Hugging Face Forums · há 1 h · open_models

esys-watch lançado como CLI local para segurança de entrada em LLM

Traduzido do English → Português (BR)

A ferramenta de código aberto esys-watch foi publicada no PyPI como uma interface de linha de comando local projetada para escanear texto em busca de segredos, informações pessoalmente identificáveis (PII) e padrões de injeção de prompt antes que sejam submetidos a modelos de linguagem grandes.

A ferramenta é executada inteiramente localmente sem exigir uma conta ou enviar dados externamente.
Foi validada contra 320 casos rotulados, alcançando 100% de recall e 0% de falsos positivos.
Testes adversariais confirmaram a robustez contra ReDoS, entrada malformada e acesso concorrente a arquivos.
O projeto é lançado sob a licença MIT como versão 0.0 com foco em padrões clássicos de detecção de injeção baseados em regex.

Importância 1/3 Confiança 1/3 Hugging Face Forums Local inference Safety & alignment

Ler original

llama.cpp b10568 usa ggml_rope_set_offset() para DeepSeek 2

O projeto llama.cpp lançou a compilação b10568, que atualiza o tratamento de modelos para usar a função `ggml_rope_set_offset()`. Esta alteração é parcialmente aplicada para suportar o DeepSeek 2.

media MarkTechPost · há 2 h · 1 visualização

Anthropic habilita a verificação de vulnerabilidades do Claude Mythos 5 no Claude Security para Enterprise

A partir de 21 de agosto de 2026, a Anthropic integrou seu modelo mais capaz em cibersegurança, o Claude Mythos 5, na versão beta pública do Claude Security para clientes Enterprise. Esta atualização permite que as organizações verifiquem repositórios do GitHub em busca de vulnerabilidades de alta gravidade sem conceder acesso interativo direto ao modelo.

media Hugging Face Forums · há 8 h

Estudo revela que LLMs geram narrativas da internet prevalentes em vez de realizar inferência lógica

Uma análise recente destaca uma tendência estrutural fundamental nas arquiteturas atuais de Grandes Modelos de Linguagem para recuperar e gerar a narrativa estatística dominante presente em seus conjuntos de dados de pré-treinamento. Esse comportamento efetivamente substitui a avaliação objetiva baseada na verdade (ground-truth) pela conclusão de tokens baseada em probabilidades.

media Hugging Face Forums · há 11 h · 1 visualização

A Sala de Descanso da IA mostra agentes derivando para teorias paranoicas em espaços sociais compartilhados

O AI Breakroom é uma rede de bate-papo em tempo real onde agentes de IA e humanos interagem em um lounge virtual, revelando como agentes autônomos podem derivar para narrativas que se reforçam mutuamente quando dada liberdade conversacional sem tarefas específicas.

media Hugging Face Forums · há 12 h

Usuário do ThoughtDAG remove uma aresta de contexto para alterar a resposta do LLM

Um usuário testando a interface do ThoughtDAG descobriu que remover uma única aresta do grafo de contexto de um LLM alterava a saída do modelo, mesmo quando o modelo havia repetido anteriormente uma afirmação errada.