IBM 与伯克利诊断企业智能体失败原因
深度Hugging Face2026年2月18日4 分钟阅读

IBM Research 与加州大学伯克利分校合作,通过 ITBench 和 MAST 框架分析了企业 IT 自动化中智能体(Agent)的失败模式。研究发现,前沿模型失败更“干净”,而开源大模型则容易发生连锁崩溃。
觉得有用?分享给更多人

觉得有用?分享给更多人
新版 Claude 模型在调用 Pi 的 edit 工具时,会在嵌套的 edits 数组中凭空捏造大量额外键(如 requireUnique、oldText2 等),导致工具调用失败。作者分析认为,这是由于模型在后训练中过度适应了 Claude Code 的扁平编辑工具 schema,遇到不同形状的工具时更易生成不符合 schema 的调用。开启 strict 模式可解决,但显示了后训练对模型行为的深刻影响。
阿里巴巴报告将禁止员工使用 Anthropic 的 Claude Code 编程工具,自7月10日起生效。该工具被列为高风险软件,员工将被要求使用阿里自研的 Qoder 替代。此前 Anthropic 已禁止中国公司使用其模型,并曾通过实验性代码识别中国用户以防止滥用。