S
SkillNav

DelTA：基于判别式Token信用分配的可验证奖励强化学习

深度2026年5月23日29 分钟阅读
核心发现：标准RLVR更新的方向由优势加权梯度向量的正负侧质心决定，但共享高频Token会主导质心，削弱关键判别信号；DelTA通过重加权使质心更具对比性。推荐读者：大型语言模型强化学习、数学推理及代码生成领域的研究者与实践者。
本文编译自 DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

Mega-ASR: 大规模真实声学模拟驱动的野外语音识别

本文提出Mega-ASR框架，通过构建包含54种复合声学场景的Voices-in-the-Wild-2M数据集，结合渐进式声学到语义优化和双粒度WER门控策略，在复杂噪声环境下相对词错误率降低超30%。该方法突破了现有模型在真实世界中的声学鲁棒性瓶颈。

深度·5月23日·26 分钟

最小RLVR训练：秩一轨迹外推LLM

本文发现RLVR训练的权重轨迹是低秩且可预测的，秩一近似即可捕获大部分性能增益。基于此提出RELEX方法，通过短窗口观测估计秩一子空间，并用线性回归外推未来检查点，仅需15%的训练步数即可匹配或超越完整RLVR性能。该方法能外推到观测窗口的10-20倍以上，且无需学习模型，归功于秩一投影的降噪效应。

深度·5月23日·25 分钟

评论