SheepNav
精选27天前0 投票

OpenAI 收购 Promptfoo:强化 AI 安全测试能力,集成 Frontier 平台

OpenAI 收购 Promptfoo:加速企业级 AI 安全与评估能力

2026 年 3 月 9 日,OpenAI 宣布将收购 Promptfoo,这是一家专注于 AI 安全平台的初创公司,旨在帮助企业识别和修复 AI 系统在开发过程中的漏洞。收购完成后,Promptfoo 的技术将直接集成到 OpenAI Frontier 平台中,这是 OpenAI 用于构建和运营 AI 协作伙伴(AI coworkers)的核心平台。

收购背景与动机

随着企业将 AI 协作伙伴部署到实际工作流程中,评估、安全和合规性已成为基础性需求。企业需要系统化的方法来测试代理行为、在部署前检测风险,并维护清晰的记录,以支持长期的监督、治理和问责。Promptfoo 的团队由 Ian Webster 和 Michael D’Angelo 领导,已开发出一套强大的工具套件,被超过 25% 的《财富》500 强公司 所信任,同时还提供了一个广泛使用的开源 CLI 和库,用于评估和红队测试 LLM 应用程序。

OpenAI B2B 应用首席技术官 Srinivas Narayanan 表示:“Promptfoo 在企业规模评估、保护和测试 AI 系统方面拥有深厚的工程专业知识。他们的工作帮助企业部署安全可靠的 AI 应用,我们很高兴将这些能力直接引入 Frontier。”

技术集成与核心能力提升

收购后,OpenAI 计划在 Frontier 平台上为构建代理的企业增强以下核心能力:

  • 平台内置安全与安全测试:自动化的安全测试和红队测试能力将成为 Frontier 平台的原生部分,帮助企业识别和修复风险,如提示注入、越狱、数据泄露、工具滥用和超出策略的代理行为。
  • 开发工作流中的安全与评估集成:Frontier 将深度集成到识别、调查和修复代理风险所需的工作流程中,使安全成为企业 AI 系统开发和运营的核心部分。
  • 监督与问责:集成的报告和可追溯性将帮助组织记录测试、监控随时间的变化,并满足日益增长的 AI 治理、风险和合规性期望。

行业影响与未来展望

Promptfoo 的创始人表示,他们创立公司的初衷是因为开发者需要一个实用的方法来保护 AI 系统。随着 AI 代理越来越多地连接到真实数据和系统,安全性变得至关重要。此次收购不仅强化了 OpenAI 在企业级 AI 安全领域的布局,还可能推动整个行业对 AI 安全测试标准的重视。

OpenAI 承诺将继续构建开源项目,同时推进 Frontier 内的集成企业能力。这显示了 OpenAI 在平衡开源创新与商业应用方面的战略考量。

小结

OpenAI 收购 Promptfoo 是其在 AI 安全领域的重要一步,旨在通过技术集成提升 Frontier 平台的企业级安全能力。随着 AI 应用的普及,此类收购可能成为行业趋势,强调安全、评估和合规性在 AI 部署中的核心地位。

延伸阅读

  1. Donut Browser:开源反检测浏览器,支持无限用户配置文件
  2. Klick AI 相机助手:实时 AI 相机,现场指导构图
  3. Vista:macOS 本该内置的图片查看器
查看原文