Nous Research a présenté l'architecture Psyche Network, une méthode conçue pour démocratiser l'IA en rendant l'entraînement distribué réalisable sans entraîner de goulots d'étranglement du transfert de données irréalistement étroits. Cette approche permet à plusieurs GPU de rejoindre un réseau à des fins d'entraînement.
L'article note que plusieurs modèles ont déjà été entraînés en utilisant cette méthode, avec des performances dépendant du nombre de GPU participants.
Nous Research fournit l'accès aux exécutions et aux détails via son site web.