Pesquisadores introduzem a destilação de confiança futura para melhorar a confiabilidade em modelos de linguagem grandes, aproveitando aspectos temporais da estimativa de confiança. O método treina preditores em representações ocultas pré-solução usando estimativas de confiança do professor derivadas de sondas de correção pós-solução.
- A confiança pós-solução é consistentemente melhor calibrada e mais discriminativa do que a confiança pré-solução.
- Sondas lineares treinadas em representações ocultas recuperam informações relacionadas à confiança substancialmente mais ricas do que o que os modelos verbalizam explicitamente.
- Preditores destilados operam sobre representações pré-solução durante a inferência, recuperando grande parte da melhoria de calibração alcançada por métodos pós-solução.
- A abordagem permanece altamente eficiente em amostras e transfere-se entre conjuntos de dados dentro do mesmo domínio.
Esta técnica permite uma estimativa de confiança significativamente mais confiável e de baixo custo ao antecipar a confiança antes que a geração da resposta seja concluída.