Hugging Face 教你用智能体测试框架评估开源模型
深度Hugging Face2026年6月18日8 分钟阅读
智能体(Agent)越来越多地替我们操作软件库——描述任务,它自己选 API、写调用、调试错误。这意味着库的代码不仅要正确、快速,还要对智能体友好。但如何度量一个库是否“智能体友好”?Hugging Face 团队设计了一套专门针对智能体使用场景的基准测试框架,以 transformers 为例,对多种开源模型展开了系统的评估。
觉得有用?分享给更多人
觉得有用?分享给更多人
Goodfire 推出一种新型 AI 智能体监控方案,通过探针读取模型内部激活信号而非重读输出,在 Kimi K3 测试中监控约 1500 次会话仅需 51 美元,远低于传统方案的 233 至 10000 美元,同时捕获 94% 的恶意黑客会话。该技术已通过 Baseten 向客户提供,针对开源模型缺乏安全护栏的问题。
作者把自己的 Azure 凭证交给编程 Agent,实测了鉴权、授权、权限范围和审计覆盖的真实状态。借来的凭证让审计日志只认人不认 Agent,还悄悄继承了人累积的组权限(而标准权限检查根本看不到这些)。即使换成配置规范的服务账号,问题依然存在:数据库无法区分调用者是谁。