用 Amazon Nova 2 提示工程实现内容审核：从MLCommons标准到自定义策略
内容审核系统需要在“放过有害内容”和“误伤正常内容”之间取得平衡，而不同平台又有各自的审核标准。Amazon Nova 2 Lite 提供了一种灵活的解决方案：通过提示工程（Prompt Engineering）即可调整审核策略，无需重新训练模型。本文基于 MLCommons AILuminate 评估标准，展示了如何使用结构化提示和自由形式提示来驱动 Nova 2 Lite 进行内容审核，并提供了性能基准对比。
审核策略的灵活性
传统上，内容审核依赖固定分类器，一旦政策更新就需要重新训练。Amazon Nova 2 Lite 的提示工程方法将策略定义从模型训练中解耦——你只需修改提示中的类别描述，模型就能按新标准判断。例如，MLCommons AILuminate 标准定义了 12 类危害分类，涵盖物理危害（如暴力犯罪）、非物理危害（如仇恨言论）和情境危害（如专业建议）三大类。你可以直接使用这套分类，也可以替换为自己的自定义策略。
两种提示方式
文章介绍了两种提示方法：
- 结构化提示：使用 JSON 或表格格式明确列出危害类别、定义和判定规则。模型按字段逐一检查内容是否匹配。
- 自由形式提示：用自然语言描述审核要求，适合快速迭代或非技术人员操作。
两种方式都保持相同的底层提示结构，仅替换类别定义部分即可。
性能基准
Amazon Nova 2 Lite 在三个公开数据集上与其他基础模型进行了对比。作为一款 极低成本的 multimodal 模型，它在高吞吐场景下表现突出。尽管具体数字未在摘要中展开，但文章强调 Nova 2 Lite 在速度和成本上的优势使其成为内容审核管线的理想选择。
典型工作流
文章附带的架构图展示了一个基于 Amazon Bedrock 的审核管线：用户上传内容后，Nova 2 Lite 按提示规则分类，标记违规项，再由人工或自动策略决定处理方式。整个过程无需微调，策略更新只需编辑提示文件。
小结
对于需要频繁调整审核策略或资源有限的团队，Amazon Nova 2 结合提示工程提供了一个实用的路径。它降低了内容审核系统的维护成本，同时保持了较高的准确性和可定制性。
注：本文基于 AWS 官方博客，所有数据与引用均源自原文。