Le rapport technique Mach-Mind-4-Flash présente un modèle agentique Mixture-of-Experts (MoE) de 35 milliards de paramètres avec seulement 3 milliards de paramètres activés. Réalisé par optimisation post-entraînement sans augmenter le calcul de pré-entraînement, il offre des performances équivalentes ou supérieures à celles des modèles de classe 100 milliards de paramètres.
Le pipeline comprend trois étapes clés : une infrastructure RL/OPD unifiée offrant un gain de vitesse d'entraînement de 17 % ; la distillation Multi-Teacher On-Policy (MOPD) pour fusionner les experts spécifiques au domaine ; et l'optimisation de politique par médiane hybride (HMPO), qui compresse les chaînes de raisonnement de 19 à 46 % avec une perte de précision minimale.
Le modèle domine ou égale des modèles ayant une taille activée 10 à 30 fois supérieure sur des benchmarks comme AIME'26 et IFBench, tout en offrant un coût d'inférence bien inférieur.