研究人员提出了 Ring-Zero,这是一种稳定的训练流水线,可将带有可验证奖励的强化学习扩展到具有一万亿参数的模型,解决了朴素扩展中发现的令牌冗余和可读性差等问题。
该系统结合了算法优化,如裁剪的重要性采样和混合精度控制。在七个数学基准上的实验表明,该模型在自发发展出高级认知行为(包括自我验证和平行推理)的同时,取得了具有竞争力的性能。
结构化的评估框架展示了模型在生成可理解、可复现且高效的推理轨迹方面的优势,验证了扩展到 1T 参数能够提高样本效率和性能上限。
研究人员提出了 Ring-Zero,这是一种稳定的训练流水线,可将带有可验证奖励的强化学习扩展到具有一万亿参数的模型,解决了朴素扩展中发现的令牌冗余和可读性差等问题。
该系统结合了算法优化,如裁剪的重要性采样和混合精度控制。在七个数学基准上的实验表明,该模型在自发发展出高级认知行为(包括自我验证和平行推理)的同时,取得了具有竞争力的性能。
结构化的评估框架展示了模型在生成可理解、可复现且高效的推理轨迹方面的优势,验证了扩展到 1T 参数能够提高样本效率和性能上限。