Mach-Mind-4-Flash Technical Reportは、アクティブパラメータ数が3Bのみである35BパラメータのMixture-of-Experts (MoE) エージェントモデルを紹介しています。事前トレーニングの計算量を拡張せずにポストトレーニング最適化によって達成され、100Bパラメータクラスのモデルと同等かそれ以上の性能を発揮します。
パイプラインには3つの主要な段階が含まれます：トレーニング速度を17%向上させる統合されたRL/OPDインフラストラクチャ；ドメイン固有のエキスパートを融合するためのMulti-Teacher On-Policy Distillation (MOPD)；推論チェーンを最小限の精度損失で19–46%圧縮するHybrid Median-length Policy Optimization (HMPO)。
このモデルは、AIME'26やIFBenchなどのベンチマークにおいて、アクティブサイズが10～30倍のモデルと同等かそれ以上をリードしており、推論コストはその一部で済みます。