15 个旗舰 AI 模型都被多轮攻击骗过
深度The New Stack2026年6月1日5 分钟阅读

Cisco 最新研究测试了 15 个闭源旗舰模型,发现企业采购依赖的安全基准测试严重低估了模型在持续多轮对话中的漏洞。GPT-5.4 单轮攻击成功率仅 2.74%,但在多轮攻击下飙升 9 倍至 24.68%。
觉得有用?分享给更多人

觉得有用?分享给更多人
Genie 4 用多个 Gemini 模型驱动,能实时生成可交互的物理环境,并演示了让 Apptronik Apollo 人形机器人在模拟世界里下跳棋。问题在于长时间运行会出物理错误,Google 也没公布重复测试的基准数据,目前仅向可信测试者开放。
美国银行在“保护您在AI世界中的财务”邮件中警告客户,不要将银行凭证分享给AI助手或代理工具。随着个人AI助手流行,客户越来越倾向于交出登录信息,但这可能导致财务损失、账户被锁或凭证泄露。多数银行的账户协议规定,客户需对授权访问产生的活动负责。