SPPO:面向长程推理任务的序列级PPO算法
深度2026年4月10日29 分钟阅读
SPPO巧妙解决了长链思维推理中时间信用分配不稳定和价值模型内存成本过高的问题,同时避免了GRPO等方法的计算开销。该研究为大语言模型在复杂推理任务中的高效对齐提供了新思路,适合强化学习、大模型对齐和自动推理领域的研究者阅读。
本文编译自 SPPO: Sequence-Level PPO for Long-Horizon Reasoning Tasks,版权归原作者所有。
觉得有用?分享给更多人
觉得有用?分享给更多人
OpenAI 和 Anthropic 在同一天发布了语音功能更新。OpenAI 的 GPT-Live 让 ChatGPT 可以通过语音控制桌面应用、多任务并行处理;Anthropic 则强化了 Claude 的语音模式,支持更长的迭代对话和代码讨论。两家公司分别从任务自动化和深度思考两个方向拓展语音交互的边界。
Anthropic 升级 Claude 语音模式,支持 Opus、Sonnet、Haiku 三种模型,并可调用外部应用完成实际任务,如改会议、写邮件。同时新增多语言支持,但免费用户仅限 Haiku 模型和单个连接应用。