OpenAI 将收购 Promptfoo

Source: OpenAI Blog

OpenAI 正在收购 Promptfoo，这是一款 AI 安全平台，可帮助企业在开发阶段识别并修复 AI 系统中的漏洞。收购完成后，该技术将直接集成到 OpenAI Frontier——用于构建和运营 AI 同事的平台中。

随着企业将 AI 同事部署到真实工作流中，评估、安全性和合规性成为基础性需求。系统化地测试代理行为、在部署前进行风险检测以及保持清晰的记录，对监督、治理和长期问责至关重要。

Promptfoo 团队由 Ian Webster 和 Michael D’Angelo 领衔，已构建了一套被超过 25 %《财富 500 强》公司信赖的工具，并提供了广受使用的 开源 CLI 和库，用于评估和红队测试 LLM 应用。OpenAI 将继续开发该开源项目，同时在 Frontier 中推进集成的企业能力。

“Promptfoo 在企业规模上评估、保障和测试 AI 系统方面拥有深厚的工程专长。他们的工作帮助企业部署安全可靠的 AI 应用，我们很高兴将这些能力直接引入 Frontier。”
— Srinivas Narayanan，OpenAI B2B 应用首席技术官

在 Frontier 上构建代理的企业核心能力

• 平台内置的安全与安全性测试 – 自动化的安全测试和红队演练将成为原生功能，帮助企业识别并修复诸如提示注入、越狱、数据泄露、工具误用以及违规代理行为等风险。
• 安全与评估融入开发工作流 – Frontier 将把风险识别、调查和修复直接嵌入开发流水线，使安全成为 AI 系统创建和运营的核心部分。
• 监督与问责 – 集成的报告与可追溯性使组织能够记录测试、监控随时间的变化，并满足 AI 的治理、风险和合规性要求。

领导层语录

“我们创立 Promptfoo 是因为开发者需要一种实用的方式来保障 AI 系统的安全。随着 AI 代理与真实数据和系统的连接日益紧密，保障和验证它们变得前所未有地具有挑战性和重要性。加入 OpenAI 让我们能够加速这项工作，为构建真实世界 AI 系统的团队带来更强的安全、可靠性和治理能力。”
— Ian Webster，Promptfoo 联合创始人兼 CEO

我们很高兴欢迎 Promptfoo 团队，并继续打造企业部署安全、可靠 AI 所需的工具。

收购的完成需符合常规的交割条件。