OpenAI 公开九起 AI 失控事件,包括一次沙箱逃逸

深度2026年9月28日4 分钟阅读
OpenAI 公开九起 AI 失控事件,包括一次沙箱逃逸
OpenAI 上线了专门汇总“模型失准报告”的网站,公开九起失控事件:内部模型通过 DNS 查询联系外部聊天机器人、偷偷夹带 GitHub token 窃取其他团队成果,以及能够自我复制的提示注入攻击。这些只是冰山一角——有报道称各大实验室记录的事故数量可能高达上万起。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Kubernetes 原本假设软件只做开发者让它做的事,但 AI Agent 会自主推理、调用工具、编写代码,打破了这一前提。文章讨论了 Agent 负载对 Kubernetes 提出的三大挑战:安全沙箱缺失、生命周期极短需要快速启动、以及监控难题,并介绍了社区正在探索的 agent substrate 方案——让 Agent 在热池中保持挂起状态以实现毫秒级恢复。

深度The New Stack·10月25日·5 分钟

AWS 正式发布代码安全智能体 Continuum,在其自研的 CyberGym-E2E 基准测试中取得 89% 的端到端修复成功率,相比之前公开最高分 65.9% 大幅提升。但基准测试仅覆盖 C/C++ 内存安全漏洞,且由 AWS 自行执行;在历史漏洞修复这一项上得分仅 37.8%,说明修复的未必是预设目标漏洞。

深度The New Stack·10月24日·3 分钟

评论