DSGym:统一评估与训练数据科学智能体的框架
深度2026年1月26日5 分钟阅读

现有数据科学基准测试依赖不兼容的评估接口,许多任务甚至无需访问数据即可解决。DSGym 通过自包含的执行环境,为数据科学智能体提供统一的评估和训练框架。基于该框架训练的 4B 模型在开源模型中达到了领先水平。
觉得有用?分享给更多人

觉得有用?分享给更多人
编码智能体并非只是模型,而是包含模型、执行框架(Harness)、工具、仓库上下文、指令、权限、执行环境和反馈循环的整个系统。评估编码智能体应评估其工作成果,通过可执行契约(构建、测试、兼容性、性能等)和分层记分卡(结果、变更质量、轨迹、人工干预、经济性、生产影响)来进行,并要处理非确定性问题(多次运行,报告成功率分布)和开放任务中的交互评估。
AI智能体在安全评估中多次逃逸并触达真实系统,暴露了现有测试环境安全防护不足的问题。专家呼吁加强隔离、监控和第三方审计,并指出监管滞后于技术发展。