审计智能体执行框架安全性
深度2026年5月20日137 分钟阅读
最有趣的发现：即使最终答案正确，智能体在执行过程中也可能访问未授权资源或泄露上下文，而传统输出级评估无法察觉。推荐AI安全研究者、LLM应用开发者及框架设计者阅读，以了解如何全面审计智能体系统的安全性。
本文编译自 Auditing Agent Harness Safety，版权归原作者所有。
觉得有用？分享给更多人
相关文章
ThoughtTrace是首个大规模数据集，记录了用户与AI对话中的自述想法（发送提示的原因及对回复的反应），包含1,058名用户、2,155次对话及10,174条想法标注。分析表明，想法与消息语义不同，大模型难以从上下文推断，并能提升用户行为预测和个性化助手训练质量。该数据集为理解人机交互中的认知动态提供了新模态。
深度·5月22日·21 分钟
本文提出HASP框架，将智能体技能升级为可执行程序函数，在推理时或训练后主动干预智能体循环。在网页搜索、数学推理和编程任务上，HASP相比现有方法提升25%-30%性能，揭示了技能内化与稳定演化的机制。
深度·5月22日·20 分钟