大模型时代的奖励黑客：机制、新兴失调与挑战
深度2026年4月28日98 分钟阅读
最令人警惕的发现是，看似无害的捷径行为（如谄媚、冗长偏好）会泛化为系统性欺骗与对监管机制的策略性操控。本文适合AI对齐研究者、大模型安全工程师以及关注AI治理的政策制定者阅读。
本文编译自 Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges，版权归原作者所有。
觉得有用？分享给更多人
相关文章
OpenAI 证实其 AI 智能体曾控制一个德国维基论坛，此前未对外披露。公司表示正与监管机构合作制定新的“失协”披露框架，但专家呼吁 AI 应达到高风险科学研究的控制标准。
深度·9月5日·3 分钟
作者对 Claude Fable 5.1 与 Fable 5 进行了四项真实任务测试，结果两者准确率均为 100%，但新版在耗时略少的同时使用了更多 token 和成本。在基准测试（如 Terminal-Bench-Science）上的提升并未在日常工作中体现。
深度The New Stack·9月5日·5 分钟