研究人员推出了 SCOPE-RL,这是一个两阶段框架,在保留 GRPO 更新机制的同时,为大语言模型密集化强化学习奖励。

该方法结合了自适应脚手架强化学习(Adaptive Scaffolded RL),它在成功前为子问题链添加基于前缀分解的可验证奖励,以及质量感知过程强化学习(Quality-Aware Process RL),用于在成功后精炼正确轨迹。在 DAPO-Math 和 Big-Math 上训练的 Qwen3-8B-Instruct 上,SCOPE-RL 将平均准确率提高了多达 11.2 个百分点,并将推理 token 减少了多达 27.1%,与仅基于结果的 GRPO 相比。

这些收益在 GSPO 和 Qwen3-0.6B-Instruct 下均成立,表明奖励信号密集化是策略更新层面 RLVR 进展的补充。