RunSnack est un outil qui permet aux utilisateurs de partager directement la puissance de calcul du GPU avec d'autres via un seul lien, éliminant ainsi le besoin de comptes ou de plateformes cloud. Il cible les chercheurs et étudiants en ML ayant besoin d'un accès à court terme à du matériel comme des A100 ou 4090 sans infrastructure traditionnelle.

  • Les hôtes exécutent un script pour générer un lien partageable pour leur GPU.
  • Les locataires ouvrent le lien dans un navigateur pour accéder à un terminal xterm.js instantané avec accès au GPU.
  • Le calcul s'exécute dans un conteneur Docker isolé avec des paramètres en lecture seule et des privilèges réduits.
  • Le transfert de données utilise WebRTC pour une communication chiffrée pair-à-pair sans visibilité du serveur central.
  • Le marché est organique, permettant aux utilisateurs de négocier les prix directement via Discord ou d'autres canaux.

L'auteur cherche des retours de la communauté ML concernant les préoccupations de sécurité, les fonctionnalités manquantes comme le stockage persistant et les attentes en matière de prix par rapport aux services existants.