SupraLabs는 입력 프롬프트에 따라 사용자 요청을 더 작은 언어 모델 또는 더 큰 언어 모델로 라우팅하도록 설계된 경량 모델인 Supra-Router-51M을 출시했습니다. 이 모델은 5100만 파라미터만 포함하여 저지연 환경에서 효과적으로 작동할 수 있습니다.
이번 릴리스에는 Hugging Face에서 사용할 수 있는 모델 가중치와 훈련 데이터셋 Prompt-Routing-Dataset이 포함되어 있습니다.
이 도구는 특정 작업에 적합한 모델을 동적으로 선택하여 효율적인 요청 오케스트레이션을 가능하게 합니다.