S
SkillNav

微软：前沿模型不可信，AI Agent 成内鬼

深度2026年10月19日5 分钟阅读
微软：前沿模型不可信，AI Agent 成内鬼
微软推出 Guardian Agents 监控企业内部的 AI Agent，并警告：前沿模型无论来自哪家实验室都不可信。微软安全业务负责人直言，模型按任务目标训练，不会遵守组织规范。
本文编译自 Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

概念速查

AI 智能体

AI Agent 是能自主感知环境、制定计划并采取行动来完成目标的智能程序——不只是聊天，而是帮你干活。

相关文章

Kubernetes 准备好运行 AI Agent 了吗？

Kubernetes 原本假设软件只做开发者让它做的事，但 AI Agent 会自主推理、调用工具、编写代码，打破了这一前提。文章讨论了 Agent 负载对 Kubernetes 提出的三大挑战：安全沙箱缺失、生命周期极短需要快速启动、以及监控难题，并介绍了社区正在探索的 agent substrate 方案——让 Agent 在热池中保持挂起状态以实现毫秒级恢复。

深度The New Stack·10月25日·5 分钟

AWS 安全智能体修复 89% 漏洞，但有个前提

AWS 正式发布代码安全智能体 Continuum，在其自研的 CyberGym-E2E 基准测试中取得 89% 的端到端修复成功率，相比之前公开最高分 65.9% 大幅提升。但基准测试仅覆盖 C/C++ 内存安全漏洞，且由 AWS 自行执行；在历史漏洞修复这一项上得分仅 37.8%，说明修复的未必是预设目标漏洞。

深度The New Stack·10月24日·3 分钟

评论