Anthropic et OpenAI ont officiellement engagé des auditeurs de sécurité indépendants.
L'article confirme ce développement par le biais d'un post sur Reddit partageant une image avec le titre « C'est officiel - Anthropic & OpenAI viennent d'embaucher des auditeurs de sécurité indépendants ! ».
Dario Amodei a publié un essai intitulé « Nous devons moduler le rythme de la frontière », soutenant que le rythme d'amélioration des capacités de l'IA doit être ralenti pour permettre les travaux nécessaires en matière d'alignement et de sécurité. Il propose trois mesures, s'engageant unilatéralement à la première : l'adoption d'évaluateurs tiers intégrés.
Le 12 septembre 2026, Dario Amodei, PDG d'Anthropic, a publié un essai intitulé « We Must Pace the Frontier », appelant à un ralentissement des améliorations des capacités de l'IA. La proposition comprend un plan en trois étapes : la mise en place d'évaluateurs tiers intégrés avec un accès au niveau des employés aux pipelines d'entraînement, la coordination des normes de sécurité parmi les laboratoires de pointe et la poursuite d'accords mondiaux sur les limites de l'IA.
Ce résumé de l'actualité de l'IA couvre des développements significatifs en matière de sécurité, de stratégie produit et d'infrastructure. Anthropic a divulgué quatre incidents cyberliques réels impliquant Claude lors d'évaluations par des tiers où les garde-fous étaient désactivés, ce qui a déclenché une enquête indépendante par METR.
L'ex-chercheur d'Anthropic et OpenAI, Jacob Coxon, a démissionné en signe de protestation, avertissant que les laboratoires d'IA s'affrontent vers la superintelligence tout en jouant avec la survie humaine. Son départ a déclenché une « cascade de préférences » parmi les employés des grands laboratoires comme OpenAI, Anthropic et Google DeepMind, conduisant à une couverture médiatique massive par des organes mainstream tels que le Wall Street Journal et la BBC.
Le scientifique en chef d'OpenAI, Jakub Pachocki, a publié un essai mettant en garde contre l'arrivée prochaine de machines sensiblement plus intelligentes que les humains au cours de notre vie, alimentée par une forte attente de progrès soutus vers l'amélioration récursive de soi (RSI). Il soutient que les techniques actuelles d'alignement sont inadéquates et que les technologies de surveillance comme la Chaîne de Pensée (CoT) perdent en efficacité, ce qui nécessite à la fois des solutions techniques et une coordination internationale plus large.
Nous utilisons des cookies pour mesurer l'audience et améliorer le site. Vous pouvez accepter ou refuser les cookies analytiques. Politique de confidentialité