Karya ini merumuskan pemilihan model waktu pengujian yang sadar anggaran untuk model bahasa besar, dengan menganggap resampling model yang berkomitmen dan rerouting ke alternatif sebagai penggunaan bersaing dari satu anggaran biaya per kueri. Penulis mengusulkan kebijakan alokasi online resample-or-reroute (RoR) yang digerakkan oleh kebenaran marginal estimasi per unit biaya untuk memaksimalkan kebenaran yang diharapkan mengingat verifier yang tidak sempurna.
- Eksperimen replay menggunakan tensor kebenaran multi-draw yang dibuat ulang dari pool bobot terbuka sebelas model di atas empat benchmark.
- Kebijakan RoR mencapai front Pareto biaya-kualitas yang menguntungkan relatif terhadap baseline single-route, one-commit-router, best-of-K sadar anggaran, cascade, dan alokasi acak.
- Peningkatan terbesar terjadi pada benchmark paling heterogen dan dikunci oleh verifier, menyusut seiring penurunan kualitas verifier.
- Replay robustness di bawah vektor harga penyedia dan verifier kesepakatan bebas label mendelineasikan di mana kesimpulan berlaku.
Pendekatan ini mengatasi kesenjangan antara router yang diterapkan dan oracle per-instan dengan mengoptimalkan alokasi anggaran tanpa memerlukan label kebenaran ideal.