SupraLabs выпустила Supra-Router-51M, легковесную модель, предназначенную для маршрутизации пользовательских запросов к более мелким или более крупным языковым моделям в зависимости от входного промпта. Модель содержит всего 51 миллион параметров, что позволяет ей эффективно работать в средах с низкой задержкой.
В релиз входят веса модели и обучающий набор данных Prompt-Routing-Dataset, доступные на Hugging Face.
Этот инструмент обеспечивает эффективную оркестровку запросов за счет динамического выбора подходящих моделей для конкретных задач.