Artikel ini mengusulkan routing agentic native Harness, sebuah paradigma tingkat-langkah yang memilih model berdasarkan keadaan harness eksekusi lengkap daripada mengoptimalkan pertukaran biaya-kesakuan satu giliran. Pendekatan ini memperlakukan setiap keputusan routing sebagai catatan data terstruktur untuk membentuk roda gila data native Harness, di mana jejak eksekusi melatih router dan model yang lebih baik.

  • Sistem diinstansiasi dalam OpenSquilla menggunakan tumpukan routing empat lapis, peringkat LightGBM open source cold-start, dan jalur router-model bertahap.
  • Ini memungkinkan pemilihan satu model terbaik yang cocok untuk eksekusi hemat biaya atau beberapa model komplementer untuk peningkatan akurasi gaya ensemble.
  • Laporan mengevaluasi routing singleton dan multi-model pada benchmark agentic termasuk DRACO dan PinchBench.

Para penulis berargumen bahwa routing agentic berfungsi sebagai mesin data untuk pelatihan native agen, meningkatkan pertukaran biaya-kesakuan dengan menghasilkan lebih banyak jejak di bawah anggaran yang sama.