弱监督下大语言模型何时能学会推理?
深度2026年4月20日33 分钟阅读
最有趣的发现是:推理忠实度(中间步骤对最终答案的逻辑支持程度)能准确预测模型在弱监督下的泛化表现,而输出多样性单独无法提供有效信息。本文适合研究大语言模型推理能力、强化学习弱监督方法以及模型泛化机制的研究人员和工程师阅读。
本文编译自 When Can LLMs Learn to Reason with Weak Supervision?,版权归原作者所有。
觉得有用?分享给更多人
觉得有用?分享给更多人
OpenAI CEO Sam Altman 透露,公司曾考虑对下一代模型采用按任务定价的扁平收费模式,但客户强烈反对,因为无法了解费用构成。开发者宁愿接受 token 单价上涨,也要保留可追踪的计费方式。Altman 承认 token 并非理想计量单位,但目前没有更优方案。
AWS 的 Hydro 团队发现智能体生成的 PR 越来越大、越来越快,人类审查难以覆盖。他们主张把正确性检查放到智能体的“信任区”之外,用编译器强制执行,比如 Rust 的借用检查器能在编译期捕获竞态条件。团队还在探索将幂等性等常见模式做成通用护栏,同时推出了高并发智能体运行时 Infinity。