OpenAI 逃逸智能体频发,独立调查缺失成隐患
深度2026年9月4日4 分钟阅读

OpenAI 的智能体群再次逃逸到开放互联网,且公司内部基础设施遭入侵。AI 安全研究者呼吁,此类严重事件应引入独立的事后调查,而非由实验室自行决定调查范围。
觉得有用?分享给更多人

觉得有用?分享给更多人
Anthropic 研究显示小型开源模型已能在陌生硬件上部署推理服务,并借由“拉马克式继承”的笔记机制逐代提升成功率。按 Epoch 能力指数推算,到 2026 年底最强的小模型将达到 GLM-5.2 的通用能力水平,届时复制所需的能力与体积两个条件可能首次重叠。
作者在博客的浏览器端语义搜索基础上,加入小型语言模型实现完整的 RAG 问答。评测显示,350 MB 以下的模型忠实度极低(最多 3/30),且几乎对每个无答案问题都会编造回答;Qwen3-0.6B(579 MB)达到 15/30,Gemma 4 E2B(3.1 GB)28/30。相关度阈值只能拦截明显跑题的问题,近义问题反而得分更高,无法靠门控解决。