OpenAI 收购 Promptfoo 强化 AI 安全测试

OpenAI 正在收购 Promptfoo，这是一个帮助企业识别和修复 AI 系统开发中漏洞的 AI 安全平台。收购完成后，Promptfoo 的技术将直接集成到 OpenAI Frontier，这是 OpenAI 用于构建和运营 AI 同事的平台。

随着企业将 AI 同事部署到实际工作流中，评估、安全和合规性成为基础需求。企业需要系统性的方法来测试智能体行为、在部署前检测风险，并维护清晰的记录以支持长期的监督、治理和问责。

Promptfoo 团队由 Ian Webster 和 Michael D’Angelo 领导，构建了一套强大的工具套件，被超过 25% 的财富 500 强公司信任，同时还有一个广泛使用的开源 CLI 和库，用于评估和红队测试 LLM 应用。双方将继续构建开源项目，同时推进 Frontier 中的集成企业能力。

“Promptfoo 在评估、保护和测试企业级 AI 系统方面拥有深厚的工程专长。他们的工作帮助企业部署安全可靠的 AI 应用，我们很高兴将这些能力直接引入 Frontier。”

— Srinivas Narayanan，OpenAI B2B 应用 CTO

OpenAI 将在 Frontier 上为企业构建智能体时，基于以下几个核心能力进行建设：

• 平台内置的安全与安全测试： 自动化安全测试和红队测试能力将成为 Frontier 平台的原生部分，帮助企业识别和修复如提示注入、越狱、数据泄露、工具滥用和超出策略的智能体行为等风险。
• 开发工作流中集成的安全与评估： Frontier 将深度集成识别、调查和修复智能体风险所需的工作流，使安全成为企业 AI 系统开发和运营的核心部分。
• 监督与问责： 集成报告和可追溯性将帮助组织记录测试、监控随时间的变化，并满足对 AI 日益增长的治理、风险和合规期望。

“我们创建 Promptfoo 是因为开发者需要一种实用的方式来保护 AI 系统。随着 AI 智能体越来越多地连接到真实数据和系统，保护和验证它们变得更具挑战性且更加重要。加入 OpenAI 让我们能加速这项工作，为构建真实世界 AI 系统的团队带来更强的安全、安全和治理能力。”

— Ian Webster，Promptfoo 联合创始人兼 CEO

OpenAI 很高兴欢迎 Promptfoo 团队加入，并继续构建企业部署安全可靠 AI 所需的工具。

该收购的完成需满足惯例成交条件。