media r/LocalLLaMA · il y a 14 h · open_models

Kimi K3 corrige 15 vulnérabilités critiques de sécurité que Codex et Fable ont refusé de corriger

Traduit de English → Français

L'article rapporte que Kimi K3 a correctement corrigé 15 vulnérabilités critiques de sécurité que les modèles d'OpenAI (Codex) et Anthropic (Fable) ont refusé de corriger en raison de "gardes-fous cybernétiques". Cette affirmation est étayée par des publications de David Sacks, callebtc et Clement Delangue sur X.

Kimi K3 a traité 15 bugs de sécurité spécifiques.
Codex et Fable ont refusé ces correctifs en invoquant des gardes-fous de sécurité.
Le cofondateur de Hugging Face, Clement Delangue, a partagé une expérience similaire d'avoir été limité en tant que défenseur.

La publication met en lumière les préoccupations selon lesquelles ces gardes-fous peuvent empêcher les défenseurs de corriger les vulnérabilités tandis que les attaquants peuvent toujours les contourner.

Importance 2/3 r/LocalLLaMA Moonshot AI Hugging Face Safety & alignment

Lire l'original

RelayShield publie les outils smolagents et le jeu de données MITRE ATT&CK pour la sécurité agentic

RelayShield a publié quatre classes `smolagents.Tool` conçues pour aider les agents à évaluer leur propre surface d'attaque avant l'exécution. Ces outils vérifient si un serveur MCP est connu comme malveillant, détectent des motifs d'injection de prompt dans le contenu entrant, analysent la pile technologique de l'agent pour les CVE connus et effectuent une notation massive du risque d'identité pour les domaines et les e-mails.

lab Hugging Face Blog · il y a 5 j · 1 vue

Hugging Face révèle un accès non autorisé via un framework d'agents autonomes

Hugging Face a identifié un accès non autorisé aux données internes et aux identifiants causé par un framework d'agents autonomes exploitant les chemins d'exécution de code dans son pipeline de traitement des jeux de données. L'intrusion a permis à l'acteur de monter en privilèges, de récolter des identifiants cloud et de se déplacer latéralement à travers les clusters internes.

arxiv arXiv cs.CL · il y a 13 j · 3 vues

PolicyShiftGuard présente un benchmark et un modèle pour des garde-fous image adaptatifs aux politiques

Les chercheurs présentent PolicyShiftBench, un benchmark avec 2 000 instances sur 265 images, pour évaluer si les modèles s'adaptent aux politiques de sécurité actives plutôt que de s'appuyer sur des priors au niveau de l'image. Ils proposent également PolicyShiftGuard, un modèle compact de 7B entraîné via Randomized Policy SFT et Boundary-Pair Policy Adaptation pour gérer les changements de politique.

arxiv arXiv cs.CL · il y a 14 j

Décodage du calcul caché à travers les tokens de remplissage dans les LLM de pointe

La recherche révèle que des modèles de pointe comme DeepSeek V3 et Kimi K2 effectuent un raisonnement multi-étapes sur des tokens de remplissage sans contenu, sans chain-of-thought visible. Cela crée un cas limite de surveillance comportementale où les tokens de surface ne portent aucune information sur le raisonnement sous-jacent.

arxiv arXiv cs.CL · il y a 17 j

HaloGuard 1.0 publie un classificateur constitutionnel à poids ouverts pour la sécurité IA multilingue

Les chercheurs présentent HaloGuard 1.0, une implémentation à poids ouverts du paradigme du classificateur constitutionnel conçue pour améliorer la sécurité des entrées sur plusieurs langues. Le modèle utilise une constitution en langage naturel avec 46 politiques et 2 940 sous-catégories pour piloter la génération de données synthétiques et gérer les entrées multilingues.