Le PDG de Google, Demis Hassabis, a publié un essai intitulé « A Framework for Frontier AI and the Dawning of a New Age », dans lequel il décrit l'humanité comme se tenant au pied du singulier. Il appelle à la création d'un organe de normes gouvernemental américain, similaire à FINRA, pour régir les laboratoires de pointe et évaluer la sécurité des modèles.

  • L'agence proposée définirait les « laboratoires de pointe » sur la base de benchmarks techniques et exigerait des mises à jour régulières des vulnérabilités avant et après la publication.
  • Hassabis caractérise l'AGI comme potentiellement 10 fois plus impactante que la Révolution industrielle, mais à une vitesse 10 fois supérieure, capable de résoudre les grands problèmes sociétaux.
  • Le cadre comprend des dispositions pour un ralentissement coordonné du développement parmi les laboratoires de pointe si les risques sont jugés suffisamment graves.

Les critiques soutiennent que bien que la proposition soit une amélioration par rapport à l'inaction, elle est insuffisante car elle manque de mécanismes d'application contraignants et ne traite pas les risques liés au déploiement interne.