强化学习新范式:不用TD的递推算法
深度2025年11月1日8 分钟阅读

传统强化学习依赖时序差分(TD)学习,但在长序列任务中误差累积严重。伯克利BAIR团队提出了一种基于“分而治之”的新算法——传递性强化学习(TRL),它通过递归分割轨迹来更新价值函数,在复杂任务上表现优异。
本文编译自 RL without TD learning,版权归原作者所有。
觉得有用?分享给更多人

觉得有用?分享给更多人
AI Agent的可靠性瓶颈不在模型能力,而在于上下文层的质量。团队需要构建结构化的领域知识图、精确的工具检索(如假设调用匹配)、以及执行层的安全护栏。基础设施的差距正在成为团队间的分水岭。
作者在 fd 代码仓库中对 Grok 4.5 和 Claude Opus 4.8 进行了三项对比测试(bug 修复、重构、功能开发)。结果显示,Grok 使用了 Opus 约 23% 的 token、约 32% 的时间,成本仅为约 1/5,且代码质量几乎相同。