Pesquisadores propõem o OpAgent, um agente operador para navegação web que utiliza aprendizado por reforço (RL) online para superar mudanças distribucionais em sites do mundo real. O sistema combina ajuste fino hierárquico multitarefa com um mecanismo de recompensa híbrido para otimizar a política por meio de interação direta.
- O Ajuste Fino Hierárquico Multitarefa cria conjuntos de dados de primitivas de Planejamento, Ação e Grounding para estabelecer fortes capacidades de seguimento de instruções.
- O RL Agênico Online utiliza um WebJudge para avaliação de resultados e uma Árvore de Decisão baseada em regras para recompensas de progresso, mitigando desafios de atribuição de crédito.
- O framework modular OpAgent orquestra um Planejador, Grounder, Refletor e Resumidor para habilitar recuperação robusta de erros e autocorreção.
O modelo aprimorado com RL alcança uma taxa de sucesso de 38,1% no WebArena, enquanto o framework completo do OpAgent eleva o desempenho a uma taxa de sucesso state-of-the-art de 71,6%.