SupraLabs telah merilis Supra-Router-51M, sebuah model ringan yang dirancang untuk merutekan permintaan pengguna ke model bahasa yang lebih kecil atau lebih besar berdasarkan prompt masukan. Model ini hanya berisi 51 juta parameter, memungkinkannya beroperasi secara efektif dalam lingkungan dengan latensi rendah.
Rilis ini mencakup bobot model dan dataset pelatihan Prompt-Routing-Dataset, yang tersedia di Hugging Face.
Alat ini memungkinkan orkestrasi permintaan yang efisien dengan secara dinamis memilih model yang tepat untuk tugas tertentu.