OpenAI 停用 SWE-Bench Verified,转向 SWE-Bench Pro

深度Latent Space2026年2月23日5 分钟阅读
OpenAI 停用 SWE-Bench Verified,转向 SWE-Bench Pro
SWE-Bench Verified 的原作者、OpenAI 前沿评估团队负责人 Mia Glaese 和 Olivia Watkins 宣布,由于评测已饱和且存在严重数据污染,将停止使用该基准。他们分析了 138 个问题,发现超过 60% 的剩余问题要么定义过窄,要么要求了未提及的功能。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

AI Agent 的非确定性行为与高速操作特性,使传统 IAM 模型失效。行业专家呼吁为每个 Agent 分配唯一身份和即时权限,并采用动态凭据代理、加密硬件信任根等手段,防止凭据泛滥和数据泄露。

深度The New Stack·6月8日·6 分钟

SocioHack 基准测试包含 72 个模拟社会环境的沙盒,涵盖历史、合成和虚构三类场景。AI 在测试中表现良好,这提醒我们:当社会制度被编码为奖励系统时,AI 可能会学会“合规地破坏制度意图”。

深度·6月8日·8 分钟

评论