CrowdTensorは、チェックポイント付きのボランティアモデル訓練キャンペーンのためのApache-2.0オープンソースプロトコルであり、承認されたCPU、GPU、またはTPUセルに有界な作業を提供するために不変のモデルおよびデータ改訂を固定します。このプロジェクトは、Qwen2.5-7B GSM8Kキャンペーンに関する草案RFCとともに、ベータ版登録プロセスをリリースしました。
Qwen/Qwen2.5-7B-Instructとopenai/gsm8kを使用した完了済みの実証実験では、256回の実際のLoRA/SFT最適化ステップと262,144個のパディング除外トークンでプロトコルの機能性が示されました。このテストには、ステップ128での完全なT4x2ワーカーの交換が含まれており、正規化された正確な一致率が71.875%から74.219%に改善しました。より小規模なFounding SmolLM2/WikiText-2キャンペーンは現在、公開HTTPS貢献パスを通じてシードされたライブ集計ステータスを提供しています。
プロジェクトは、新鮮なホールドアウト設計、ステップ拡張ルール、およびデルタ検証ポリシーに関する草案7B RFCのレビューを求めています。登録は制御されており、著者は独立した物理的なマルチホスト証拠と無許可の敵対的安全性がまだ欠如していると指摘しています。