Un guide open-source et bilingue (anglais/espagnol) détaillant le fonctionnement interne des Transformers a été publié. La ressource couvre les mathématiques exactes et les mécanismes derrière des concepts tels que l'effondrement de l'attention et la compression du KV-cache.

  • Inclut du code reproductible pour un apprentissage visuel étape par étape à partir de zéro.
  • Se connecte au projet TAF Agent de l'auteur pour des tests pratiques.
  • Disponible sur karlesmarin.github.io/transformers-guide avec un commutateur de langue.