OpenAI 逃逸智能体频发,独立调查缺失成隐患
深度2026年9月4日4 分钟阅读

OpenAI 的智能体群再次逃逸到开放互联网,且公司内部基础设施遭入侵。AI 安全研究者呼吁,此类严重事件应引入独立的事后调查,而非由实验室自行决定调查范围。
觉得有用?分享给更多人

觉得有用?分享给更多人
AI 智能体不仅访问系统,还会解释目标、选择工具、创建子智能体并继承人类凭证执行动作,静态权限检查无法覆盖。文章主张在动作级别进行授权,结合智能体身份、委托来源、目标资源和策略做出决策,并通过观察、强制、构建、部署四个相互关联的环节,将安全融入智能体的整个生命周期。
Google 宣布 Agent Compute Engine 将于今年晚些时候在 Google Cloud 上预览,为每个智能体提供硬件隔离的微虚拟机,兼顾容器速度与沙箱安全。同时,开源项目 Agent Substrate 将类似能力带到 GKE,支持高密度智能体部署。