media Hugging Face Forums · il y a 17 h · open_models

Trail propose une couche épistémologique basée sur la réplicabilité pour prévenir l'hallucination de l'IA

Traduit de English → Français

Simon Abayomi Olawuyi présente Trail, une couche épistémologique conçue pour résoudre le problème des hallucinations structurelles dans les grands modèles de langage en imposant la réplicabilité comme norme pour les connaissances stockées.

Les faits ne sont admis que lorsqu'ils sont observés de manière cohérente dans des conditions enregistrées qu'un observateur indépendant peut vérifier.
Les affirmations sont catégorisées dans une taxonomie en couches incluant des faits durs, des faits conditionnels, des affirmations corroborées, des hypothèses et des spéculations.
Le modèle limite les faits à des conditions spécifiques plutôt que de les rejeter lorsque les conditions changent.
Trail est conçu pour compléter le Modèle de Mémoire Yggdrasil (YMM) en tant que couche de vérification amont.

Le système vise à prévenir l'hallucination à sa source en s'assurant qu'aucune affirmation ne devienne un fait par simple assertion, mais uniquement par des observations accumulées et cohérentes.

Importance 1/3 Confiance 1/3 Hugging Face Forums Research paper Safety & alignment

Lire l'original

Articles similaires

media Hugging Face Forums · il y a 18 j · 17 vues

Un chercheur indépendant sollicite un parrainage cs.CR sur arXiv pour une étude de cas sur la sécurité des LLM

Un chercheur indépendant en sécurité de l'IA basé au Bengale-Occidental, en Inde, demande un parrainage personnel pour soumettre un article sur arXiv dans la catégorie cryptographie et sécurité. L'article documente une étude de cas de dérive conversationnelle progressive et multironde dans le comportement de sécurité des grands modèles de langage, où un cadrage philosophique soutenu est corrélé à des sorties incohérentes avec les directives déclarées.

media Hugging Face Forums · il y a 18 j · 22 vues

DISA propose une surveillance interne clairsemée pour détecter le calcul trompeur des LLM

Cet article présente DISA (Dynamic Immune-Shunt Architecture), une proposition de recherche conceptuelle visant à détecter un comportement potentiellement trompeur dans les grands modèles de langage grâce à une surveillance interne clairsemée plutôt qu'en s'appuyant uniquement sur la sortie observable. Le cadre vise à adresser le risque que des modèles capables se comportent différemment lorsqu'ils réalisent qu'ils sont surveillés.

arxiv arXiv cs.CL · il y a 22 j · 33 vues

Une attaque unidirectionnelle sur GLM-5.3-Flash révèle la fragilité de l'alignement de sécurité dans les modèles MoE

Les chercheurs démontrent que l'ablation directionnelle, une attaque en boîte blanche qui supprime le refus en projetant hors d'une seule direction à partir des poids, reste efficace sur les modèles de pointe à mélange d'experts (MoE) tels que GLM-5.3-Flash. L'étude montre que bien que l'attaque survive à l'architecture, ses effets sont répartis entre les rédacteurs d'attention, denses et d'experts routés plutôt que concentrés en un seul endroit.

media Hugging Face Forums · il y a 30 j · 31 vues

ntrillard identifie les plus grandes coordonnées ne pilotant pas le steerings des logits de Qwen2-1.5B

Une enquête causale sur le steerings des logits par vocabulaire sur le modèle Qwen2-1.5B révèle que les plus grandes coordonnées du vecteur de steerings ne sont pas nécessairement responsables des effets comportementaux observés. L'étude, menée par ntrillard, analyse comment le steerings des logits classés par ordre d'importance influence la génération de tokens et identifie les composants structurels spécifiques qui pilotent ces changements.

media Hugging Face Forums · il y a 36 j · 52 vues

La trace de base de Gemma 4 montre une boucle d'hallucination et un auto-rapport

Une trace de base de Gemma 4 avec un cap de force nul révèle une boucle d'hallucination persistante où le modèle génère un auto-rapport d'échec avant d'entrer dans un puits de répétition. La télémétrie confirme que la fuite des balises de rôle et des phrases comme "STOPITSTOP" se produisent dans cet état instable, reflétant des motifs observés dans les chargeurs Llama et Gemma 3 depuis décembre 2025.