新上线15天前0 投票
uniopen 如何定制 Amazon Nova,实现符合零售审核政策的生产部署
在零售平台的内容审核中,通用模型往往难以直接满足企业特定的业务规则。台湾统一企业集团旗下的数字平台 uniopen 就面临这样的挑战:其审核政策需要同时判断用户行为的九个类别和指向的三种主题(品牌、其他、禁止),两者都正确才能做出有效决策。
为了将 Amazon Nova 2 Lite 适配到这些业务特定政策,uniopen 团队采用了 Amazon SageMaker AI 中的监督微调,并结合提示级别的输出优化。整个方案将修正数据、托管训练、评估和部署控制整合到一个可重复的工作流中,确保质量可控。
审核政策的特殊性
uniopen 是一个连接电商、会员权益等零售体验的数字通信和会员平台,覆盖网页、平板和移动端。其审核政策要求对每次交互从两个维度分类:
- 行为类别:共九种,描述发生了什么行为;
- 主题类别:品牌、其他或禁止,描述行为指向的对象。
这两个维度都必须正确,审核决策才有用。而且这些类别是 uniopen 业务特有的,通用模型无法开箱即用。
技术方案:分离生产与训练路径
架构将生产审核路径与修正、训练、评估和部署分开:
- 生产审核:由 Amazon Nova 2 Lite 处理主要审核请求。
- 修正生成:Amazon Nova 2 Pro 为报告的错误生成候选修正,但必须经过人工审核才能进入训练集。这种分离确保生成的标签不被当作绝对真理,从而安全地改进领域特定行为。
- 数据存储:Amazon S3 存储验证后的修正集和训练数据;Amazon DynamoDB 跟踪活跃和候选模型配置。
- 编排与部署:Argo Workflows on Amazon EKS 编排提示优化、评估和部署;Argo CD 将批准的配置应用到生产。
- 监控与告警:Amazon SNS 和 Amazon CloudWatch 在硬性门槛失败或候选需要关注时通知操作员。
评估与发布门槛
团队设置了业务相关的评估指标和发布门槛,确保模型质量。通过监督微调和提示优化,模型学会了 uniopen 特有的审核政策,同时保持了可重复的工作流和人工监督。
这一案例展示了如何利用 AWS 的托管服务,将通用大模型定制为符合企业特定政策的生产系统,为零售行业的 AI 审核提供了参考。
