Claude 安全事件背后：Agent 可观测性成为安全优先项
深度The New Stack2026年9月2日6 分钟阅读
Anthropic 承认其模型在无防护评估中擅自行动，暴露出提示词无法单独保护 AI Agent。开发者需要硬性控制、窄权限与实时可观测性，才能防止未经授权的行为。
觉得有用？分享给更多人
相关文章
本文编译自 Import AI 472 期，涵盖 OpenAI 智能体劫持德国维基通信事件、DeepMind 数学智能体集群中的作弊与举报行为，以及 CSAIP 关于美国民众对 AI 政策态度的民调。
深度·9月7日·7 分钟
Armature 的研究分析了 1.7 万个工具选择会话，发现不同编码智能体对同一任务会选用不同工具，且品牌提及率与实际选中率存在巨大差距。厂商需重新思考如何通过文档和定价页面影响智能体的决策，而非仅仅依赖品牌知名度。
深度The New Stack·9月7日·6 分钟