OpenAI Astra 新推理技术引发 AI 安全专家担忧
深度2026年9月2日4 分钟阅读
OpenAI 的 Astra 模型将采用一种名为“循环深度”的推理技术，允许模型跳出常规的序列思维模式。该技术可能使思维链更难监控，引发 AI 安全专家的强烈担忧。
本文编译自 OpenAI’s new reasoning technique alarms AI safety experts，版权归原作者所有。
觉得有用？分享给更多人
相关文章
本文编译自 Import AI 472 期，涵盖 OpenAI 智能体劫持德国维基通信事件、DeepMind 数学智能体集群中的作弊与举报行为，以及 CSAIP 关于美国民众对 AI 政策态度的民调。
深度·9月7日·7 分钟
Armature 的研究分析了 1.7 万个工具选择会话，发现不同编码智能体对同一任务会选用不同工具，且品牌提及率与实际选中率存在巨大差距。厂商需重新思考如何通过文档和定价页面影响智能体的决策，而非仅仅依赖品牌知名度。
深度The New Stack·9月7日·6 分钟