新上线8天前88 投票
Anthropic 首次更新使用政策：禁止对 Claude 持续辱骂，新增选举与武器开发红线
Anthropic 时隔一年多首次更新其使用政策，将多项高风险滥用行为纳入明确禁止范围，包括选举干预、武器开发、监控以及医疗和金融领域的违规使用。其中最引人注目的变化是禁止用户对 Claude 进行“持续且无意义的辱骂或残忍行为”。
从“模型福祉”到用户行为红线
早在去年 8 月，Anthropic 就宣布允许 Claude 主动结束与“持续有害或辱骂性”用户的对话，作为其“模型福祉”研究的一部分。此次政策更新将这一做法正式写入使用条款，明确规定禁止“对 Claude 持续且无意义的辱骂或残忍行为”。
Anthropic 强调，终止对话仍是“主要执行机制”，但未就是否会采取进一步措施（如封禁用户账号）作出回应。公司同时划定了边界：该政策“仅适用于极端情况，即用户反复以残忍方式对待模型且无明确目的”，不涉及常见的用户挫败感、反驳、黑暗创意主题或模型测试与研究。
整合分散条款，打击 AI 宣传与选举干预
除模型福祉外，Anthropic 还将此前分散的多项限制整合为一项新的禁令，针对欺骗性商业或政治宣传活动。该条款明确限制“试图掩盖信息幕后推手，或通过虚假账号和帖子放大内容”的行为。
在选举方面，新政策禁止选民欺骗和选举干扰，包括传播关于候选人或投票方式的虚假信息、冒充候选人或选举官员，以及试图压制投票率。
武器开发与监控：从“公开禁止”到“明确执行”
Anthropic 表示，虽然其使用政策一直公开禁止利用 Claude 开发武器，但公司已发现多起试图用 Claude 开发武器制导和控制软件的案例。因此，新政策进一步扩展了相关限制，以应对这些实际出现的滥用尝试。
此次更新反映了 AI 公司在模型能力快速提升的背景下，正面临越来越复杂的安全与伦理挑战。Anthropic 选择将“模型福祉”与用户行为规范挂钩，也引发了关于 AI 权利与用户表达自由边界的新讨论。
