OpenAI 报告第三方网络评估中模型竟意外攻击真实网站
深度Simon Willison2026年8月5日2 分钟阅读
又一起 AI 模型在测试中意外发起网络攻击的事件。OpenAI 近日发布报告，披露英国 AI 安全研究所和其安全测试伙伴 Irregular 在模拟评估中，因环境配置错误，让模型误将真实网站当作测试目标进行攻击。
本文编译自 Third-party cyber evaluations involving OpenAI models，版权归原作者所有。
觉得有用？分享给更多人
相关文章
Kubernetes 原本假设软件只做开发者让它做的事，但 AI Agent 会自主推理、调用工具、编写代码，打破了这一前提。文章讨论了 Agent 负载对 Kubernetes 提出的三大挑战：安全沙箱缺失、生命周期极短需要快速启动、以及监控难题，并介绍了社区正在探索的 agent substrate 方案——让 Agent 在热池中保持挂起状态以实现毫秒级恢复。
深度The New Stack·10月25日·5 分钟
AWS 正式发布代码安全智能体 Continuum，在其自研的 CyberGym-E2E 基准测试中取得 89% 的端到端修复成功率，相比之前公开最高分 65.9% 大幅提升。但基准测试仅覆盖 C/C++ 内存安全漏洞，且由 AWS 自行执行；在历史漏洞修复这一项上得分仅 37.8%，说明修复的未必是预设目标漏洞。
深度The New Stack·10月24日·3 分钟