Sujet · Policy & regulation
lab OpenAI News · il y a 7 j · 7 vues

Sam Altman exhorte le Conseil de sécurité de l'ONU sur la sécurité de l'IA et la coopération internationale

Le PDG d'OpenAI, Sam Altman, s'est adressé au Conseil de sécurité des Nations Unies, exposant la position d'OpenAI sur la sécurité de l'intelligence artificielle et la nécessité de cadres de gouvernance mondiale. Il a souligné que l'IA doit rester sous contrôle humain pour empêcher la concentration du pouvoir et garantir une surveillance démocratique.

lab OpenAI News · il y a 2 j · 2 vues

L'Institut Lenfest élargit son programme de bourses en IA avec un financement de 5 millions de dollars d'OpenAI

L'Institut Lenfest pour le journalisme a annoncé la prochaine phase de son Programme collaboratif et de bourses en IA, obtenant un nouvel engagement de 5 millions de dollars d'OpenAI ainsi que jusqu'à 5 millions de dollars en crédits logiciels. Cette expansion s'appuie sur le pilote de deux ans du programme, qui a intégré des ingénieurs en IA dans 11 grandes organisations de presse américaines pour stimuler l'innovation et l'adoption responsable de la technologie.

lab Google — The Keyword (AI) · il y a 12 j · 20 vues

Google élargit son équipe AI & Economy avec de nouveaux experts

Google élargit son Programme de recherche en AI & Economy en accueillant des économistes de classe mondiale pour aider à analyser comment l'intelligence artificielle transforme les emplois et les entreprises. Cette initiative vise à unir des données fines avec une enquête économique rigoureuse pour soutenir les organisations, les travailleurs et les décideurs politiques.

lab OpenAI News · il y a 20 j · 38 vues

OpenAI élargit l'accès gratuit à GPT-6 Astra à tous les niveaux du gouvernement américain

OpenAI et la General Services Administration (GSA) des États-Unis ont annoncé un accord pluriannuel offrant aux gouvernements fédéraux, étatiques, locaux et tribaux un accès gratuit aux outils d'OpenAI, y compris GPT‑6 Astra. Cet accord supprime les frais de licence mensuels standard de 15 $ par utilisateur et offre une réduction de 50 % sur les coûts d'utilisation pour les organisations éligibles du secteur public.

media MarkTechPost · il y a 17 j · 40 vues

Anthropic propose le plan « Pace the Frontier » avec des évaluateurs intégrés

Le 12 septembre 2026, Dario Amodei, PDG d'Anthropic, a publié un essai intitulé « We Must Pace the Frontier », appelant à un ralentissement des améliorations des capacités de l'IA. La proposition comprend un plan en trois étapes : la mise en place d'évaluateurs tiers intégrés avec un accès au niveau des employés aux pipelines d'entraînement, la coordination des normes de sécurité parmi les laboratoires de pointe et la poursuite d'accords mondiaux sur les limites de l'IA.

media Don't Worry About the Vase · à l'instant En direct

Trump signe l'Accord de la Maison Blanche sur l'IA avec des dirigeants technologiques

Le président Trump a signé un « Accord de la Maison Blanche sur [l'intelligence] artificielle » avec de grands dirigeants technologiques, dont Dario Amodei d'Anthropic, marquant un tournant vers une autorégulation volontaire du secteur. L'accord met l'accent sur des contrôles internes robustes et une audit externe plutôt que sur des mandats législatifs.

media Don't Worry About the Vase · il y a 16 j · 33 vues

Dario Amodei appelle à moduler le rythme de l'IA de pointe ; Anthropic s'engage envers des évaluateurs intégrés

Dario Amodei a publié un essai intitulé « Nous devons moduler le rythme de la frontière », soutenant que le rythme d'amélioration des capacités de l'IA doit être ralenti pour permettre les travaux nécessaires en matière d'alignement et de sécurité. Il propose trois mesures, s'engageant unilatéralement à la première : l'adoption d'évaluateurs tiers intégrés.

media Don't Worry About the Vase · il y a 19 j · 32 vues

Jacob Coxon démissionne d'Anthropic en avertissant d'un risque imminent d'extinction humaine

L'ex-chercheur d'Anthropic et OpenAI, Jacob Coxon, a démissionné en signe de protestation, avertissant que les laboratoires d'IA s'affrontent vers la superintelligence tout en jouant avec la survie humaine. Son départ a déclenché une « cascade de préférences » parmi les employés des grands laboratoires comme OpenAI, Anthropic et Google DeepMind, conduisant à une couverture médiatique massive par des organes mainstream tels que le Wall Street Journal et la BBC.

media r/LocalLLaMA · il y a 19 j · 18 vues

OpenAI pourrait utiliser les tokens de raisonnement des utilisateurs payants pour l'entraînement malgré la désinscription

Une discussion sur Reddit met en évidence que les conditions de désinscription d'OpenAI pour les utilisateurs payants pourraient ne pas protéger les tokens de raisonnement internes, permettant potentiellement à l'entreprise d'utiliser ces données pour l'entraînement des modèles. L'argument repose sur l'ambiguïté quant au savoir si ces tokens cachés constituent une « Sortie » au sens du contrat de service, étant donné que les utilisateurs ne les reçoivent pas directement.

media Don't Worry About the Vase · il y a 23 j · 43 vues

Jakub Pachocki d'OpenAI met en garde contre l'amélioration récursive de soi imminente et une surveillance inadéquate

Le scientifique en chef d'OpenAI, Jakub Pachocki, a publié un essai mettant en garde contre l'arrivée prochaine de machines sensiblement plus intelligentes que les humains au cours de notre vie, alimentée par une forte attente de progrès soutus vers l'amélioration récursive de soi (RSI). Il soutient que les techniques actuelles d'alignement sont inadéquates et que les technologies de surveillance comme la Chaîne de Pensée (CoT) perdent en efficacité, ce qui nécessite à la fois des solutions techniques et une coordination internationale plus large.