Together propose un cadre permettant aux entreprises de migrer des modèles d'IA propriétaires vers des modèles open source (OSM) à l'aide de services gérés, avec pour objectif de réduire la complexité et d'accélérer l'adoption. Le processus implique de découvrir des modèles adaptés grâce à des benchmarks, de les évaluer via la relecture du trafic, d'adapter les prompts ou les poids, et de calculer le ROI pour justifier le changement.
- La découverte repose sur la définition de cas d'usage et le filtrage des candidats à l'aide de benchmarks tels que LMArena et FrontierCode.
- L'évaluation privilégie la relecture du trafic réel par rapport aux classements génériques afin d'évaluer la précision et les indicateurs de performance tels que le coût par tâche.
- L'adaptation implique un réglage itératif des prompts système, des paramètres d'échantillonnage ou le fine-tuning des poids du modèle pour atteindre une qualité équivalente à celle des modèles propriétaires.
- Les calculs de ROI peuvent montrer une réduction des coûts allant jusqu'à 70 %, aidant les parties prenantes à approuver la migration sur la base d'une valeur quantifiable.
- Le déploiement en production commence souvent par des déploiements canari de 10 % du trafic pour valider la stabilité avant l'adoption complète.
Cette approche permet aux entreprises de contourner les cycles de migration traditionnels lents en tirant parti des services gérés et des tests itératifs pour obtenir des transitions plus rapides et à moindre risque.