Pluralis Researchは、ロールアウトフリート全体がオープンインターネット経由で接続された消費者向けMac上で動作する初のRLポストトレーニング実行に成功した。このセットアップでは、MLXを用いたint8推論のために4か国にまたがる14台のMacが利用され、bf16勾配更新は単一のB200が処理した。
- データセンター間接続なしで、通常の家庭用インターネット経由でCloudflare R2を通じてロールアウトを同期。
- オフポリシーギャップを管理するため、フルチェックポイントの代わりにint8重みデルタ(約82 MB)をPULSEが転送。
- DPPOスタイルの確率ゲートが、ロールアウトモデルとトレーニングモデル間で有意な確率ドリフトがあるトークンをフィルタリング。
- PaperSearchQAにおいて、cover pass@1は29%から63%に増加し、検索率は22%から84%に上昇。
このアプローチは、分散消費者ハードウェア上でのトレーニングが実現可能であることを示しており、フロンティアモデルがクローズドAPIの背後に移動する中でオープンモデルのアクセシビリティを維持する可能性を示唆している。