SupraLabs a publié Supra-Router-51M, un modèle léger conçu pour router les requêtes des utilisateurs vers des modèles de langage plus petits ou plus grands en fonction du prompt d'entrée. Le modèle ne contient que 51 millions de paramètres, ce qui lui permet de fonctionner efficacement dans des environnements à faible latence.
La release inclut les poids du modèle et le jeu d'entraînement Prompt-Routing-Dataset, disponibles sur Hugging Face.
Cet outil permet une orchestration efficace des requêtes en sélectionnant dynamiquement les modèles appropriés pour des tâches spécifiques.