CrowdTensor est un protocole open-source sous licence Apache-2.0 pour des campagnes d'entraînement de modèles par volontaires avec points de contrôle, qui lie des révisions immuables du modèle et des données afin de fournir aux cellules CPU, GPU ou TPU admises un travail borné. Le projet a publié un processus d'inscription en bêta ainsi qu'une RFC brouillon pour une campagne Qwen2.5-7B GSM8K.
Un run de faisabilité achevé utilisant Qwen/Qwen2.5-7B-Instruct et openai/gsm8k a démontré les capacités du protocole avec 256 étapes d'optimiseur LoRA/SFT réelles et 262 144 tokens non-paddings. Le test comprenait un remplacement complet des workers T4x2 à l'étape 128, entraînant une amélioration de la correspondance exacte normalisée de 71,875 % à 74,219 %. Une campagne Founding SmolLM2/WikiText-2 plus petite sert désormais le statut agrégé en direct, amorcée via des chemins de contribution HTTPS publics.
Le projet sollicite un examen de la RFC brouillon 7B, spécifiquement concernant la conception du fresh-holdout, les règles d'extension des étapes et les politiques de validation delta. L'inscription reste contrôlée, et les auteurs notent qu'il manque encore des preuves physiques multi-hôtes indépendantes ainsi qu'une sécurité adversaire sans permission.