A SupraLabs lançou o Supra-Router-51M, um modelo leve projetado para rotear solicitações de usuários para modelos de linguagem menores ou maiores com base no prompt de entrada. O modelo contém apenas 51 milhões de parâmetros, permitindo que opere eficazmente em ambientes de baixa latência.
O lançamento inclui os pesos do modelo e o conjunto de dados de treinamento Prompt-Routing-Dataset, disponíveis no Hugging Face.
Esta ferramenta permite a orquestração eficiente de solicitações por meio da seleção dinâmica de modelos apropriados para tarefas específicas.