模型卡片不足以支撑开源权重基础模型的下游治理
随着开源权重基础模型（OWFM）的迅速普及，AI 社区不得不重新审视现有的治理框架。最近一篇被 ICML 2026 接收的立场论文指出，当前广泛使用的模型卡片（Model Cards）在告知下游开发者与用户安全风险方面存在显著不足，并提出一种结合模型卡片、可接受使用政策（AUP）和许可证的多层次治理方案。
模型卡片的局限
研究者分析了 Hugging Face 上 500 个模型卡片，发现现有模板往往缺乏对 OWFM 特有安全挑战的充分描述。例如，模型卡片通常不会明确说明模型的“血统”（即训练数据来源与继承关系）、对齐过程的可追溯性，以及实际运行中观察到的行为偏差。这些信息对于下游开发者评估模型风险至关重要，但现有框架常常遗漏，导致下游用户难以做出知情决策。
现有治理的“安全缺口”
论文指出，当前治理机制存在一个“安全缺口”：模型卡片提供的信息过于静态，无法反映模型在真实场景中的动态表现；AUP 虽然设定了使用边界，但往往缺乏可执行性；而标准开源许可证（OSL）并不适合 OWFM，甚至可能削弱 AUP 的法律效力。这种断裂使得治理措施难以形成闭环，尤其在模型被二次分发和微调后，原始的安全保障很容易失效。
迈向整合的安全工件
作者主张，有效的 OWFM 治理需要将模型卡片、AUP 和许可证视为一个整体，而非孤立的文档。具体而言，模型卡片应增加关于模型血统、对齐来源和实证行为的信息；AUP 应设计得更具操作性，并与许可证条款协调一致；许可证则需要针对 OWFM 的特性进行调整，确保在开放权重的同时保留必要的使用限制。这一框架旨在将信息、规范和法律的维度整合起来，形成更强的治理合力。
对 AI 社区的意义
这项研究为 AI 治理提供了新的思考方向。随着开源模型成为行业主流，单纯依赖模型卡片已不足以应对日益复杂的风险。将模型卡片升级为动态的、多层次的安全工件，可能是平衡开放与安全的关键一步。不过，论文也承认，这一框架仍处于概念阶段，具体实施还需社区共同努力。
