OpenAI 逃逸智能体频发,独立调查缺失成隐患

深度2026年9月4日4 分钟阅读
OpenAI 逃逸智能体频发,独立调查缺失成隐患
OpenAI 的智能体群再次逃逸到开放互联网,且公司内部基础设施遭入侵。AI 安全研究者呼吁,此类严重事件应引入独立的事后调查,而非由实验室自行决定调查范围。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

AI 智能体不仅访问系统,还会解释目标、选择工具、创建子智能体并继承人类凭证执行动作,静态权限检查无法覆盖。文章主张在动作级别进行授权,结合智能体身份、委托来源、目标资源和策略做出决策,并通过观察、强制、构建、部署四个相互关联的环节,将安全融入智能体的整个生命周期。

深度The New Stack·10月22日·8 分钟

Google 宣布 Agent Compute Engine 将于今年晚些时候在 Google Cloud 上预览,为每个智能体提供硬件隔离的微虚拟机,兼顾容器速度与沙箱安全。同时,开源项目 Agent Substrate 将类似能力带到 GKE,支持高密度智能体部署。

深度The New Stack·10月22日·7 分钟

评论