SheepNav
新上线11天前0 投票

OpenAI误撤销网络安全研究者的模型访问权限

多名网络安全研究人员近日在 OpenAI 官方支持论坛及社交媒体上反映,他们突然失去了对 OpenAI 有限访问计划 Trusted Access for Cyber(TAC) 的访问权限。TAC 是 OpenAI 为经过审查的研究人员提供的特殊计划,允许他们使用限制较少的先进 AI 模型进行网络安全研究。OpenAI 随后确认,此次事件是由技术错误导致的,并已联系受影响用户重新申请验证。

事件经过

据 TechCrunch 报道,至少有五位研究人员报告了相同的问题。当他们在 ChatGPT 的 Cyber 页面登录时,系统提示“无法验证身份”或“账户当前不符合条件”。其中一位研究人员分享的邮件显示,OpenAI 解释其访问权限被撤销是“由于影响少量用户的技术问题”,并强调“这是我们的问题,并非我们想提供的用户体验”。

背景:TAC 计划的意义

TAC 计划旨在为可信的防御者提供更强大的模型,帮助他们更快地向企业报告漏洞,从而推动漏洞修复。同时,通过严格的身份验证和审查,OpenAI 希望防止恶意黑客利用这些模型开发攻击工具。类似地,Anthropic 也推出了 Cyber Verification Program(CVP)

区域疑云与官方回应

值得注意的是,所有受访的研究人员均居住在美国和欧洲以外,这暗示撤销可能仅影响特定区域。OpenAI 在推特上回应称,部分用户的 Daybreak Blue(TAC 的最新层级)访问权限已失效,需要重新验证。目前,受影响的具体人数尚不清楚,但 OpenAI 已表示将协助用户恢复访问。

影响与展望

此次事件虽为误操作,但也暴露了依赖集中式访问控制的潜在风险。对于依赖这些模型进行漏洞研究的独立安全专家而言,访问中断可能延误漏洞披露进程。不过,OpenAI 的快速响应和补救措施,以及重新验证的流程,有望将负面影响降至最低。未来,OpenAI 或需考虑更稳健的验证机制,避免类似问题再次发生。

延伸阅读

  1. 马斯克加速燃气轮机生产的新路径,却伴随污染争议
  2. 德州州长冻结Flock AI监控摄像头资金,反监控浪潮席卷全美
  3. Caterpillar:从自动化采矿到AI部署,经验如何迁移?
查看原文