OpenAI 发布可信第三方评估指南：如何有效评估前沿 AI 模型

OpenAI 近日发布了一份关于第三方 AI 评估的指导性文章，分享了在评估前沿模型能力和安全性方面积累的经验，并提出了设计有效评估的建议。文章指出，随着模型能力的进化，评估方式也需要随之改变，从简单的“问答式”转向更复杂的“环境+任务”模式。评估报告应明确测试的“主张”和“有效性证据”，并关注奖励黑客、拒绝回答、数据污染等影响结果有效性的因素。

延伸阅读

1. OpenAI 推出 GPT-Red：用“超级黑客”大模型训练 AI 安全防线，美国热泵销量逆势增长
2. 热泵在美国为何依然火爆？
3. Nitrosend：为AI智能体打造的专属邮件平台，让它们自主注册、发送与回复