SheepNav
精选11天前0 投票

OpenAI 预览“私有安全处理”:在不牺牲数据隐私的前提下强化前沿模型安全

OpenAI 于 2026 年 8 月 19 日宣布,将继续为符合条件的 API 客户提供 零数据保留(Zero Data Retention,ZDR) 承诺,并预览全新的 私有安全处理(Private Safety Processing) 技术,旨在应对跨交互的安全风险,同时不损害客户的数据隐私。

零数据保留:不变的核心承诺

ZDR 是 OpenAI 对 API 客户的一项明确承诺:在处理请求后,OpenAI 不会保留客户的提示词和模型响应。客户内容对 OpenAI 人员不可见,且企业客户数据默认不用于模型训练,除非客户明确选择加入。

安全挑战:单一交互的局限

随着模型承担更长时间、更复杂的任务,一些严重的安全风险可能只有在跨多个交互的上下文中才会显现。例如,恶意行为者可能反复探测安全防护、跨账户协调,或将威胁伪装成常规研究。在代理式任务中,系统可能因未及时停止而偏离用户意图,产生对齐风险。传统的安全系统仅对单个交互进行评估,难以捕捉这些模式。

私有安全处理:兼顾安全与隐私

为了在 ZDR 下解决上述挑战,OpenAI 推出了 私有安全处理。该技术旨在识别相关交互之间的模式,而无需让 OpenAI 人员访问底层内容。对于 ZDR 部署,客户内容存储在客户控制的设施上;同时,OpenAI 也在开发一种选项,将内容存储在 OpenAI 的基础设施上,但使用客户控制的密钥进行加密。

在这两种方案中,自动化系统都能识别潜在滥用行为,并返回有限的安全信号,而不会将底层提示词或响应暴露给 OpenAI 人员。

行业背景与意义

近期,一些前沿模型的部署要求客户允许 AI 提供商保留敏感内容以进行安全监控。然而,对于许多组织而言,这一要求与其安全义务或对服务对象的承诺相冲突。OpenAI 的私有安全处理旨在继续提供 ZDR,同时强化安全防护,为那些对数据隐私有严格要求的组织提供了新的可能性。

尽管该技术仍处于预览阶段,其具体实现细节和实际效果尚待验证,但这一方向表明,AI 行业正在努力平衡安全与隐私这两个关键需求。未来,随着代理式 AI 的普及,类似的技术或将成为标配。

延伸阅读

  1. Sayscroll:随声而动的AI提词器,让演讲更自然流畅
  2. 告别你的弃坑项目:RIP MY BUILD 为它举行最后一次“发布”
  3. ChordWeaver:用乐理解锁音乐创作与学习的新维度
查看原文