Mach-Mind-4-Flashの技術レポートは、アクティブパラメータ数が3Bのみである35BパラメータのMixture-of-Experts (MoE) エージェントモデルを紹介しています。ポストトレーニング最適化のみを通じて、このモデルは事前トレーニングの計算量をスケーリングすることなく、100Bパラメータクラスのモデルと同等以上のパフォーマンスを達成します。
パイプラインには3つの主要な段階が含まれます:17%のトレーニング速度向上をもたらす統合RL/OPDインフラストラクチャ;ドメイン固有のエキスパートを融合するためのMulti-Teacher On-Policy Distillation (MOPD);推論チェーンを最小限の精度損失で19--46%圧縮するHybrid Median-length Policy Optimization (HMPO)。モデルはAIME'26で92.70、IFBenchで82.82のスコアを獲得し、アクティブサイズが10--30倍のモデルとリードまたは同等のパフォーマンスを示します。
著者は強化学習のためのスケーラブルなエージェント相互作用環境を導入することで、推論コストの大幅な削減により、現実世界のアプリケーションタスクで顕著なパフォーマンス向上を実証しました。